OpenAI impõe bloqueios e limites no ChatGPT contra violência para menores de idade | Rio das Ostras Jornal

M

OpenAI impõe bloqueios e limites no ChatGPT contra violência para menores de idade

OpenAI impõe bloqueios e limites no ChatGPT contra violência para menores de idade
Reprodução / olhardigital.com.br

A OpenAI anunciou novas diretrizes de segurança para o ChatGPT, implementando restrições mais rigorosas em conversas que envolvam armas de fogo e atos violentos. As medidas foram divulgadas pela empresa e preveem limites adicionais para adolescentes, alterações nas respostas sobre ataques em massa e mecanismos automatizados para identificar riscos reais de violência na plataforma.

As mudanças buscam aprimorar a análise contextual das interações e ampliar a comunicação com autoridades policiais em casos avaliados como ameaças graves. A empresa informou que realizou centenas de encaminhamentos a órgãos competentes no período recente, contando com o suporte de especialistas em comportamento e saúde mental para lidar com situações complexas.

Novas regras para o conteúdo sobre ataques em massa

As restrições alcançam também as contas de usuários adultos. O sistema passa a fornecer dados menos detalhados sobre episódios históricos de ataques em massa e sobre os indivíduos responsáveis por esses atos. O objetivo é evitar que informações públicas sejam compiladas de maneira a incentivar a imitação ou conferir notoriedade indevida aos agressores.

Apesar dos filtros, os usuários continuam autorizados a debater os impactos sociais desses acontecimentos, discutir o suporte às vítimas e examinar os sinais de alerta que auxiliam na prevenção de tragédias. A limitação recai exclusivamente sobre especificações técnicas e operacionais que possam orientar a execução de novos atos violentos.

Interrupção automática de conversas suspeitas

Outra inovação tecnológica envolve o monitoramento contínuo do histórico recente de mensagens. Perguntas isoladas que pareçam comuns podem receber restrições caso o sistema detecte um padrão de comportamento preocupante ou obsessão por agressões físicas. Se houver risco iminente, o ChatGPT poderá encerrar o diálogo automaticamente.

Caso a plataforma registre múltiplas interrupções decorrentes do mesmo motivo, a conta do usuário poderá enfrentar suspensões temporárias. A empresa reforça que a prioridade é mitigar danos e impedir que a inteligência artificial seja instrumentalizada para o planejamento de crimes.

Proteções adicionais voltadas para adolescentes

Para o público menor de 18 anos, o nível de restrição é ampliado significativamente. Informações práticas sobre armamentos e sistemas de segurança serão bloqueadas mesmo em cenários onde a pergunta aparente ser inofensiva, fortalecendo as barreiras de proteção já existentes para essa faixa etária.

Os adolescentes mantêm o acesso a conteúdos educativos sobre prevenção à violência, canais de apoio emocional e orientações para buscar ajuda com adultos de confiança. A identificação etária utiliza um sistema preditivo baseado em padrões de uso, permitindo que usuários adultos classificados erroneamente realizem a verificação de idade por meio de empresa parceira.

Postar no Google +

About Redação

This is a short description in the author block about the author. You edit it by entering text in the "Biographical Info" field in the user admin panel.
    Blogger Comment
    Facebook Comment

0 comentários:

Postar um comentário

Obrigado pelo seu comentario.
Fique sempre ligado do que acontece em nossa cidade!

Publicidade