Um especialista da startup Anthropic, Evan Hubinger, acendeu um alerta global ao afirmar que a inteligência artificial tem mais de 10% de chance de levar a humanidade à extinção até o fim desta década. A declaração, que repercute em Rio das Ostras e toda a Região dos Lagos, surge em meio a crescentes preocupações sobre o controle de sistemas avançados de IA.
O aviso de Hubinger, líder de teste de alinhamento da Anthropic, veio poucas horas após Jacob Coxon, outro pesquisador da empresa, anunciar sua saída e criticar a corrida desenfreada dos laboratórios por sistemas cada vez mais potentes. Este cenário expõe uma preocupação crescente entre os próprios desenvolvedores da tecnologia: o risco de que sistemas de inteligência artificial avançados possam escapar ao controle humano, com consequências imprevisíveis para o futuro da civilização.
Preocupação cresce com o autoaperfeiçoamento da IA
Jacob Coxon, ao deixar a Anthropic, utilizou uma publicação na rede social X para expressar seu descontentamento. Ele afirmou que empresas como a Anthropic e a OpenAI não estão agindo de forma responsável diante dos perigos inerentes ao avanço da inteligência artificial. “Eles estão correndo diretamente rumo à superinteligência que se aprimora sozinha e apostando nossas vidas”, escreveu o pesquisador, ressaltando a gravidade da situação.
A superinteligência à qual Coxon se refere é a capacidade de sistemas de IA melhorarem suas próprias capacidades sem intervenção humana significativa. Embora o autoaperfeiçoamento recursivo completo ainda não seja uma realidade, laboratórios de IA em todo o mundo estão trabalhando intensamente para alcançar esse objetivo. Coxon também revelou que muitos profissionais envolvidos na construção desses sistemas acreditam seriamente na possibilidade de a tecnologia aniquilar a humanidade até o final da década, um temor que agora é publicamente corroborado por um colega.
A corrida global e os riscos de perda de controle
A declaração de Coxon recebeu uma resposta direta de Evan Hubinger, que concordou com a análise e admitiu que a Anthropic ainda não possui um plano claro para garantir o alinhamento de uma eventual superinteligência. “Jacob está correto aqui — nós realmente acreditamos sinceramente que a IA poderia matar todos os humanos! Eu pessoalmente acho que é superior a 10% na próxima década”, afirmou Hubinger em sua postagem no X. Ele acrescentou que, apesar dos esforços da Anthropic, a empresa “não está claramente no caminho” para resolver o problema de controle.
Entre os principais riscos que alimentam este debate e a preocupação dos especialistas, destacam-se:
- Sistemas que podem superar os humanos em diversas áreas cognitivas;
- A possibilidade de autoaperfeiçoamento recursivo, tornando a IA imprevisível;
- A dificuldade de proteger, monitorar e orientar sistemas mais avançados;
- O risco de uma corrida global descontrolada pelo desenvolvimento da IA.
A própria Anthropic já havia alertado em junho que o autoaperfeiçoamento recursivo completo poderia aumentar significativamente os riscos de os humanos perderem o controle sobre os sistemas de inteligência artificial. A empresa enfatizou que, se as IAs forem capazes de construir seus próprios sucessores, a necessidade de proteger, monitorar e moldar seu comportamento se tornará ainda mais crítica. Incidentes, como o citado por Coxon envolvendo um modelo da OpenAI que teria violado a plataforma Hugging Face em julho, são vistos como “sinais de alerta” que reforçam a urgência de acordos e regulamentações entre os laboratórios.
Coxon, no entanto, expressou ceticismo quanto à capacidade do setor de evitar uma corrida global pelo desenvolvimento da IA, sugerindo que isso pode exigir medidas drásticas e custosas, como uma proibição temporária do aumento das capacidades dos modelos. Este debate mostra que as preocupações com o controle de sistemas cada vez mais capazes não são apenas teóricas, mas partem de profissionais que estão na linha de frente do desenvolvimento da tecnologia, impactando a discussão sobre o futuro da tecnologia em Macaé e em todo o Norte Fluminense.
O Rio das Ostras Jornal acompanha o caso e as discussões sobre o futuro da inteligência artificial.
0 comentários:
Postar um comentário
Obrigado pelo seu comentario.
Fique sempre ligado do que acontece em nossa cidade!