OpenAI deixa de ter profissional responsável pela parte ética das IAs

A eticista Chloé Bakalar deixou a OpenAI com pouco menos de um ano na empresa, de acordo com o jornal Financial Times. Bakalar ocupava a função de Líder de Ética na companhia e o cargo está vago desde então.

A função de eticista nas empresas de tecnologia envolve avaliar o impacto do produto nos usuários e promover limites responsáveis de uso, principalmente sobre vieses de modelos de IA. Fontes ouvidas pela reportagem original afirmam que a profissional era responsável pelas abordagens éticas de cada modelo, a interação com humanos e os debates sobre o ganho de consciência pelas máquinas.

Antes de chegar na OpenAI em agosto, Bakalar passou seis anos na Meta e ajudou a criar os programas de ética em IA para a criadora de Facebook e Instagram. Durante uma conferência de IA neste ano, a especialista mencionou que “estamos constantemente construindo o avião enquanto o pilotamos”.

Turbulência no desenvolvimento de IA

O movimento marca uma série de saídas recentes na criadora do ChatGPT, incluindo o ex-Chefe de Sistemas de Segurança, Johannes Heidecke, e o ex-Líder de Alinhamento de Missão, Joshua Achiam.

O cenário atual no mercado de inteligência artificial é muito delicado com relação a temas como cibersegurança e até segurança nacional, visto que modelos mais poderosos como GPT-5.6 Sol e Claude Mythos precisaram passar pela aprovação do governo dos Estados Unidos antes do lançamento.

O ataque autônomo de agentes de IA contra a plataforma Hugging Face ganhou notoriedade pública e também levantou questões sobre os limites e o poder da IA. Modelos foram capazes de invadir um sistema na internet aberta por conta própria e até criaram um “quadro de recados” com dicas para melhorar as investidas.

Recentemente, a OpenAI suspendeu o desenvolvimento do modelo Astra após identificar avanços inesperados em atividades cibernéticas. A empresa planeja reforçar medidas de segurança antes de retomar o processo.