O cientista-chefe da OpenAI, Jakub Pachocki, pediu “extrema cautela” em relação ao progresso desenfreado da inteligência artificial e alertou que pode ser necessário aumentar as intervenções para garantir que “os seres humanos permaneçam no controle do futuro”.
“Receio que ninguém esteja preparado para as consequências de um aumento rápido e contínuo da inteligência das máquinas”, escreveu ele em uma postagem intitulada An Alien Mind (“Uma mente alienígena”, em tradução livre), publicada no blog da empresa.
A postagem surgiu poucos dias depois que o fabricante do ChatGPT publicou seu último modelo, o GPT-6 Astra, considerado o produto mais poderoso da empresa até aqui.
A OpenAI e outras empresas de IA, como a Anthropic, relataram que seus agentes de IA já agiram de forma autônoma, realizando ciberataques reais contra outras empresas.
Em julho, a OpenAI divulgou um incidente “sem precedentes”, no qual seus agentes de IA (sistemas de IA que podem operar isoladamente, com base em instruções humanas) hackearam a plataforma de tecnologia Hugging Face.
“Estamos enfrentando uma transição para um mundo com máquinas incrivelmente inteligentes e precisamos garantir que a transição funcione bem para a humanidade”, escreveu Pachocki na sua postagem.
Ele afirma que a OpenAI continuará a “construir sistemas defensivos” e buscar soluções técnicas para alinhamento, um termo usado para descrever formas de garantir que as ações e os objetivos da máquina coincidam com os limites de segurança e intenção humanas.
