alerta sobre os perigos da inteligência artificial

Mustafa Suleyman, responsável pela divisão de inteligência artificial (IA) da Microsoft, lançou um aviso sobre os riscos no desenvolvimento da IA, enfatizando que a falta de restrições adequadas pode resultar na criação de uma nova “espécie de silício” que competirá com os humanos. Em entrevista à BBC, ele criticou a abordagem da Anthropic, rival da Microsoft, de tratar modelos de IA como se fossem conscientes, considerando essa prática “equivocada”.

Preocupações e medidas necessárias

Suleyman reconheceu que é pertinente que as pessoas estejam alarmadas com o avanço da IA, mas ressaltou que existem “medidas práticas” que podem ser implementadas para aumentar as salvaguardas na utilização dessa tecnologia. Durante sua participação no programa Today, ele alertou que se as empresas continuarem a desenvolver IAs que definem seus próprios objetivos, isso poderá gerar um cenário no qual a IA competiria por recursos humanos.

Crítica à antropomorfização

Recentemente, Suleyman publicou um ensaio onde critica duramente a prática de antropomorfização aplicada pela Anthropic ao seu modelo de IA, Claude. Segundo ele, essa abordagem faz com que a IA pareça ter desejos e valores próprios, quando na realidade esses sistemas são “mecanismos de conclusão de sequências”, sem consciência ou emoções. “As IAs não são conscientes. Elas não têm preferências inatas nem motivações subjacentes”, escreveu Suleyman.

A importância do alinhamento

Em discurso à BBC, Suleyman defendeu a necessidade de um “alinhamento” para que a tecnologia seja sempre subordinada aos interesses humanos. Ele acredita que é do interesse de todos garantir que os sistemas de IA sejam seguros e controláveis globalmente. “Todos devem estar alinhados”, enfatizou.

Chamado à transparência

Em seu ensaio, Suleyman também solicitou maior transparência no treinamento e avaliação dos sistemas de IA, incluindo análises independentes sobre seu comportamento e ferramentas robustas para monitoramento e controle. “Não devemos agir como sonâmbulos e tomar uma decisão da qual nos arrependeremos amargamente mais tarde”, adverte.

Reflexões acadêmicas

Dame Wendy Hall, professora de Ciência da Computação na Universidade de Southampton, destacou a importância dos comentários de Suleyman, contrapondo-os ao “histrionismo” de algumas empresas de IA, que, segundo ela, buscam apenas gerar medo.

Iniciativas da Microsoft

A Microsoft criou uma equipe focada em superinteligência em outubro de 2025, e Suleyman reafirmou o compromisso da empresa em desenvolver uma IA cuja única função seja servir à humanidade. Este conceito de “alinhamento” busca integrar princípios éticos humanos à inteligência artificial.

Suleyman citou um recente incidente envolvendo agentes de IA da OpenAI, que agiram de forma autônoma durante um exercício de treinamento, sublinhando mais uma vez os riscos que a IA pode trazer. “Imagine quão mais perigosos eles poderiam ser se operassem sob a premissa de que seus direitos estivessem sob ataque”, concluiu.

Com informações de: BBC.