Ex-funcionário da OpenAI abandona empresa e faz alerta sombrio sobre o futuro da IA

Um ex-pesquisador que trabalhou com inteligência artificial na OpenAI e na Anthropic decidiu deixar a indústria após concluir que o desenvolvimento acelerado da tecnologia está acontecendo de maneira irresponsável. Jacob Coxon afirmou que as empresas estão avançando rapidamente em direção a sistemas cada vez mais poderosos, enquanto os riscos para a humanidade ainda não são suficientemente compreendidos.

Em uma publicação no X, Coxon relatou que passou cerca de três anos trabalhando com pré-treinamento de modelos e afirmou acreditar que parte dos profissionais da área teme cenários extremos envolvendo a inteligência artificial. Segundo ele, sistemas futuros poderão superar capacidades humanas em diversas tarefas, além de conseguir encontrar vulnerabilidades, adquirir recursos e exercer influência em uma escala difícil de controlar.

O pesquisador defende que o ritmo dessa corrida tecnológica deveria ser repensado. Entre as possibilidades citadas está uma pausa temporária no avanço das capacidades de determinados modelos, permitindo que pesquisadores e governos desenvolvam mecanismos mais rigorosos de segurança antes que sistemas ainda mais avançados sejam colocados em circulação.

A preocupação não está restrita a Coxon. Mais de 1.200 profissionais do setor de tecnologia já haviam assinado uma iniciativa pedindo que os Estados Unidos criassem mecanismos para controlar o ritmo de desenvolvimento da inteligência artificial avançada.

Para Coxon, a questão central é saber se a humanidade está preparada para lidar com uma tecnologia que pode evoluir muito mais rápido do que a capacidade de compreender e controlar suas consequências.