
A OpenAI anunciou novas diretrizes de segurança para o ChatGPT, implementando restrições mais rigorosas em conversas que envolvam armas de fogo e atos violentos. As medidas foram divulgadas pela empresa e preveem limites adicionais para adolescentes, alterações nas respostas sobre ataques em massa e mecanismos automatizados para identificar riscos reais de violência na plataforma.
As mudanças buscam aprimorar a análise contextual das interações e ampliar a comunicação com autoridades policiais em casos avaliados como ameaças graves. A empresa informou que realizou centenas de encaminhamentos a órgãos competentes no período recente, contando com o suporte de especialistas em comportamento e saúde mental para lidar com situações complexas.
Novas regras para o conteúdo sobre ataques em massa
As restrições alcançam também as contas de usuários adultos. O sistema passa a fornecer dados menos detalhados sobre episódios históricos de ataques em massa e sobre os indivíduos responsáveis por esses atos. O objetivo é evitar que informações públicas sejam compiladas de maneira a incentivar a imitação ou conferir notoriedade indevida aos agressores.
Apesar dos filtros, os usuários continuam autorizados a debater os impactos sociais desses acontecimentos, discutir o suporte às vítimas e examinar os sinais de alerta que auxiliam na prevenção de tragédias. A limitação recai exclusivamente sobre especificações técnicas e operacionais que possam orientar a execução de novos atos violentos.
Interrupção automática de conversas suspeitas
Outra inovação tecnológica envolve o monitoramento contínuo do histórico recente de mensagens. Perguntas isoladas que pareçam comuns podem receber restrições caso o sistema detecte um padrão de comportamento preocupante ou obsessão por agressões físicas. Se houver risco iminente, o ChatGPT poderá encerrar o diálogo automaticamente.
Caso a plataforma registre múltiplas interrupções decorrentes do mesmo motivo, a conta do usuário poderá enfrentar suspensões temporárias. A empresa reforça que a prioridade é mitigar danos e impedir que a inteligência artificial seja instrumentalizada para o planejamento de crimes.
Proteções adicionais voltadas para adolescentes
Para o público menor de 18 anos, o nível de restrição é ampliado significativamente. Informações práticas sobre armamentos e sistemas de segurança serão bloqueadas mesmo em cenários onde a pergunta aparente ser inofensiva, fortalecendo as barreiras de proteção já existentes para essa faixa etária.
Os adolescentes mantêm o acesso a conteúdos educativos sobre prevenção à violência, canais de apoio emocional e orientações para buscar ajuda com adultos de confiança. A identificação etária utiliza um sistema preditivo baseado em padrões de uso, permitindo que usuários adultos classificados erroneamente realizem a verificação de idade por meio de empresa parceira.
0 comentários:
Postar um comentário
Obrigado pelo seu comentario.
Fique sempre ligado do que acontece em nossa cidade!