Pesquisadores de IA soam alerta à medida que abandonam projetos

Pesquisadores de IA soam alerta à medida que abandonam projetos

“O mundo está em perigo”, alertou o ex-chefe da equipe de de Salvaguardas da Anthropic enquanto se dirigia para a saída.

Também de saída, um pesquisador da OpenAI afirmou que a tecnologia tem “um potencial para manipular os usuários de maneiras que não temos ferramentas para entender, muito menos para prevenir”.

Eles fazem parte de uma onda de pesquisadores e executivos de que não estão apenas deixando seus empregadores: estão soando o alarme em voz alta ao sair, chamando a atenção para o que consideram sinais de alerta graves.

Embora o Vale do Silício seja conhecido pela alta rotatividade de pessoal, a recente onda de demissões ocorre em um momento em que líderes de mercado como OpenAI e Anthropic correm para realizar IPOs que podem impulsionar seu crescimento, ao mesmo tempo que atraem escrutínio para suas operações.

Nos últimos dias, vários funcionários de alto escalão da área de decidiram se demitir, alguns alertando explicitamente que as empresas para as quais trabalhavam estão avançando rápido demais e minimizando as deficiências da tecnologia.

Zoë Hitzig, pesquisadora da OpenAI nos últimos dois anos, anunciou sua demissão na quarta-feira (11) em um artigo publicado no New York , citando “profundas reservas” sobre a estratégia de publicidade emergente da OpenAI.

Hitzig, que alertou sobre o potencial do ChatGPT para manipular usuários, afirmou que o arquivo de dados do chatbot, baseado em “medos médicos, problemas de relacionamento, crenças sobre Deus e a vida após a morte”, apresenta um dilema ético justamente porque as pessoas acreditavam estar conversando com um sem segundas intenções.

A crítica de Hitzig surge no momento em que o site de notícias de tecnologia Platformer relata que a OpenAI desmantelou sua equipe de “alinhamento de missão”, criada em 2024 para promover o objetivo da empresa de garantir que toda a humanidade se beneficie da busca pela “inteligência artificial geral” — uma IA hipotética capaz de pensamento em nível humano.

A OpenAI não respondeu imediatamente ao pedido de comentário.

Também nesta semana, Mrinank Sharma, chefe da equipe de Pesquisa de Salvaguardas da Anthropic, publicou uma carta enigmática na terça-feira (10) anunciando sua decisão de deixar a empresa e alertando que “o mundo está em perigo”.

A carta de Sharma fez apenas referências vagas à Anthropic, a empresa por trás do chatbot Claude.

Ele não disse por que estava saindo, mas observou que “para mim estava claro que havia chegado a hora de seguir em frente” e que “durante todo o meu tempo aqui, vi repetidamente como é difícil deixar que nossos valores realmente governem nossas ações”.

A Anthropic declarou à CNN , em comunicado, que era grata pelo trabalho de Sharma no avanço da pesquisa em de IA. A empresa ressaltou que ele não era o chefe de segurança nem responsável por medidas de proteção mais abrangentes na empresa.

Enquanto isso, na xAI, dois cofundadores renunciaram em um intervalo de 24 horas nesta semana, anunciando suas saídas no X.

Isso deixa apenas metade dos fundadores da xAI na empresa, que está se fundindo com a SpaceX de para criar a empresa privada mais valiosa do mundo. Pelo menos outros cinco funcionários da xAI anunciaram suas saídas nas redes sociais na última semana.

Não ficou imediatamente claro por que os últimos cofundadores da xAI deixaram a empresa, e a xAI não respondeu a um pedido de comentário. Em uma publicação nas redes sociais na quarta-feira, Musk disse que a xAI foi “reorganizada” para acelerar o crescimento, o que “infelizmente exigiu a saída de algumas pessoas”.

Embora não seja incomum que profissionais de alto nível troquem de com frequência em um setor emergente como o de IA, a escala das saídas em um período tão curto na xAI é algo notável.

A startup enfrentou uma reação negativa global devido ao seu chatbot , que foi autorizado a gerar imagens pornográficas não consensuais de mulheres e crianças durante semanas antes que a equipe interviesse para impedi-lo.

O Grok também demonstrou propensão a gerar comentários antissemitas em resposta a perguntas dos usuários.

Outras saídas recentes evidenciam a tensão entre alguns pesquisadores preocupados com a segurança e os altos executivos ansiosos por gerar receita.

Na terça-feira, o The Wall Street Journal noticiou que a OpenAI demitiu uma de suas principais executivas de segurança após ela se opor ao lançamento de um “modo adulto” que permite conteúdo pornográfico no ChatGPT.

A OpenAI demitiu a executiva de segurança, Ryan Beiermeister, sob a alegação de que ela discriminou um funcionário do sexo masculino — acusação que Beiermeister afirmou ao Journal ser “absolutamente falsa”.

A OpenAI disse ao Wall Street Journal que a demissão dela não tinha relação com “nenhum problema que ela tenha levantado enquanto trabalhava na empresa”.

As deserções de altos funcionários fazem parte da história da IA ​​desde que o ChatGPT chegou ao mercado no final de 2022.

Pouco tempo depois, Geoffrey Hinton, conhecido como o “Padrinho da IA”, deixou seu cargo no Google e começou a evangelizar sobre o que ele considera riscos existenciais que a IA representa, incluindo uma enorme convulsão econômica em um mundo onde muitos “não serão mais capazes de discernir o que é verdade”.

As previsões apocalípticas são abundantes – inclusive entre executivos de IA que têm incentivo financeiro para exagerar o poder de seus próprios produtos.

Uma dessas previsões viralizou esta semana, com o CEO da HyperWrite, Matt Schumer, publicando um texto de quase 5.000 palavras sobre como os modelos de IA mais recentes já tornaram alguns empregos na área de tecnologia obsoletos.

“Estamos relatando o que já aconteceu em nossos próprios trabalhos”, escreveu ele, “e avisando que vocês serão os próximos”.



📰 Leia a matéria completa no site original CNN Brasil

Foto de Redação

Redação

Assessoria de comunicação da agência SLZ7. Uma empresa de desenvolvimento e marketing digital que oferece soluções estratégias e fortalecimento de marcas aumentando a presença online

Foto de Redação

Redação

Assessoria de comunicação da SLZ7

publicidade

Veja mais

publicidade

error: Content is protected !!