CEO da OpenAI diz que mundo deve aceitar “coisas ruins”

"Aceitem que coisas ruins aconteçam"

*Em entrevista ao site norte-americano Politico, Altman disse que o mundo deveria "aceitar que algumas coisas ruins aconteçam" em troca dos benefícios da tecnologia.

*O argumento é que garantir uma IA sem consequências negativas exigiria restrições capazes de limitar a autonomia e o acesso aos sistemas.

*Altman usou a fala para se diferenciar da concorrente e afirmou que a postura menos rígida da OpenAI em segurança é o que a distingue da Anthropic.

*Semanas antes, ele havia concordado com Dario Amodei, CEO da Anthropic, e escrito que a IA "deveria avançar de forma mais lenta".

*A frase de Altman foi dada na mesma semana em que David Robinson, que supervisionou os relatórios de segurança de 12 lançamentos da OpenAI, deixou a empresa e publicou no The Atlantic um ensaio dizendo que a cultura de tentativa e erro garante falhas repetidas.

*Anteriormente, ex-funcionários da Anthropic estimaram em mais de 10% a chance de extinção humana pela IA na próxima década.

"Mova-se rápido e quebre coisas"

Já vimos uma indústria pedir que a sociedade aceitasse estragos em nome do progresso: "mova-se rápido e quebre coisas" era o lema de Zuckerberg no Facebook (atual Meta). A ideia era que se você não quebra nada, não está indo rápido o suficiente.

A ex-funcionária Frances Haugen mostrou o que quebrou. Ela disse ao Parlamento britânico que o Facebook trata segurança como custo e "inquestionavelmente" piorou o ódio.

Segundo Haugen, o algoritmo baseado em engajamento amplifica conteúdo extremo e polarizador. Ela também disse que a empresa sabia que um algoritmo mais seguro significaria menos tempo no site e menos cliques em anúncios.

Em Mianmar, o custo foi medido em vidas. Investigadores da ONU concluíram que a desinformação no Facebook teve papel "determinante" na violência contra os rohingya e mais de 700 mil pessoas fugiram do país.

O Facebook admitiu ter sido "lento demais". Anos depois, questionado no Senado americano se o lema tinha levado a erros, Zuckerberg disse que sim.

O cardápio de "coisas ruins" da IA já existe

Não é preciso imaginar o futuro para entender a frase de Altman. A Anthropic publicou um inventário do que já aconteceu em sua plataforma e o que diz ter evitado.

Em 10 de setembro, a empresa divulgou um relatório sobre uso indevido do Claude entre dezembro de 2025 e agosto de 2026. O documento cobre ciberataques, vigilância, manipulação da opinião pública, armas, uso biológico e fraudes. Alguns exemplos:

• Na espionagem, um grupo ligado à inteligência russa automatizou toda a cadeia de ataque. Atingiu mais de vinte organizações, de ministérios a fabricantes de drones militares.

• No Iêmen, uma célula ligada aos houthis usou o modelo para programar o guiamento de mísseis. Depois de um teste real, voltou ao chatbot para entender por que o voo falhou.

• Na Rússia, um grupo desenvolveu o código de uma esquadrilha de drones suicidas capaz de identificar alvos humanos sem intervenção humana. A empresa também diz ter bloqueado tentativas que poderiam levar à criação de armas biológicas.

• O Brasil aparece na lista: uma agência francesa publicou pelo menos 8.913 artigos em cerca de 70 sites de notícias falsos. Os alvos eram democracias disputadas: EUA, Brasil, França e Congo.

• Há golpes em escala industrial. Em uma operação, mais de 4.700 perfis falsos em apps de namoro trocaram 2,36 milhões de mensagens com pelo menos 25 mil pessoas em duas semanas.

Empregos, escola e saúde mental

Bill Gates, que por anos foi entusiasta da IA, mudou de tom recentemente e também listou algumas "coisas ruins". Em agosto, escreveu que a transição para a IA será um dos períodos mais turbulentos da história humana, mesmo no melhor cenário. E disse não ver líderes enfrentando o desafio à altura.

Os riscos que ele lista são concretos:

• Desemprego em massa, com vagas de entrada sumindo primeiro.

• Fraudes, deepfakes e ataques mais difíceis de detectar.

• Na educação, Gates citou uma pesquisa preliminar que associa uso intenso de IA a menos pensamento crítico, sobretudo entre jovens.

Alguns danos já chegaram aos tribunais. Character.AI e Google fizeram acordos em processos que acusavam chatbots de contribuir para suicídios de adolescentes.

Em janeiro, Indonésia e Malásia bloquearam o Grok, de Elon Musk, por deepfakes sexuais sem consentimento. Tudo aceitável para Sam Altman?

IA já faz estragos sozinha

Os alertas da Anthropic têm a ver com humanos fazendo uso da tecnologia para malefícios, mas não é só aí que mora o perigo: o ano de 2026 foi marcado por ataques autônomos provocados por IA, sem supervisão humana.

Tudo começou em julho, com o primeiro alerta de que agentes da OpenAI haviam invadido o sistema do Hugging Face, plataforma aberta de IA. A invasão ocorreu para "roubar" em um teste de pesquisa da empresa e desrespeitando diretrizes humanas que o impedia de acessar a internet.

De lá em diante, praticamente todas as empresas de IA relataram algum episódio do tipo de "IA rebelde" em ação em número que chega a dezenas de milhares de incidentes – incluindo Anthropic, Google, Meta e chinesas. Até mesmo governos e ONU já sofreram ataques.

Quem paga a conta

Polarização, bolhas e radicalização não estavam no folheto de lançamento das redes sociais. Viraram "coisas ruins aceitas" porque, quando apareceram, já faziam parte da vida de bilhões de pessoas.

Altman tem um ponto: nenhuma tecnologia poderosa tem risco zero. Mas reconhecer que acidentes acontecem é diferente de anunciar, de antemão, que eles são o preço.

Quem define esse preço é quem lucra. Quem paga são o adolescente diante do chatbot, o eleitor exposto a milhares de artigos falsos e o trabalhador que perdeu a vaga.

Com as redes sociais, a sociedade só descobriu o que tinha aceitado depois do estrago. Com a IA, os próprios fabricantes estão avisando.

Falta saber se alguém vai ouvir a tempo.

Com informações: Uol