IA pode ameaçar a humanidade? Entenda por que especialistas alertam para os riscos

O avanço acelerado da inteligência artificial (IA) voltou a provocar discussões sobre os limites e os possíveis riscos da tecnologia. Pesquisadores ligados ao desenvolvimento de sistemas avançados passaram a defender maior controle sobre o ritmo de evolução das ferramentas, enquanto outros especialistas consideram exageradas as previsões de que a IA poderia representar uma ameaça à sobrevivência humana.

Um dos alertas mais contundentes veio de Evan Hubinger, pesquisador da Anthropic, empresa responsável pelo Claude. Ele afirmou existir mais de 10% de chance de que a inteligência artificial possa “matar todos os humanos” na próxima década. O pesquisador trabalha com alinhamento de IA, área que busca fazer com que os sistemas sigam objetivos compatíveis com valores e interesses humanos.

Outro pesquisador, Jacob Coxon, deixou a Anthropic após discordâncias sobre o desenvolvimento da tecnologia. Ele afirmou que integrantes da empresa estavam preocupados com a velocidade dos avanços e com a possibilidade de perder o controle sobre sistemas cada vez mais autônomos.

O que poderia acontecer?

A principal preocupação está relacionada ao desenvolvimento de sistemas capazes de executar tarefas complexas sem supervisão constante. Uma hipótese discutida por pesquisadores é que uma IA suficientemente avançada consiga melhorar suas próprias capacidades e passe a operar com um grau de autonomia difícil de controlar.

Os chamados agentes de IA estão entre os sistemas que despertam maior atenção. Eles podem receber objetivos, tomar decisões e executar uma sequência de ações para cumprir determinada tarefa.

Entre os cenários considerados pelos especialistas estão o uso de sistemas avançados em ataques cibernéticos, espionagem, guerra biológica e outras atividades capazes de provocar danos em larga escala. Também existe o temor de impactos econômicos provocados por decisões autônomas ou pelo uso deliberado da tecnologia.

Até o momento, porém, esses cenários permanecem hipotéticos. Não há consenso científico de que uma IA esteja próxima de adquirir capacidade para eliminar a humanidade.

Riscos já existem

Enquanto parte do debate está concentrada em possíveis ameaças futuras, críticos afirmam que problemas provocados pela IA já estão acontecendo.

Entre eles estão a produção de imagens e vídeos falsos, golpes, desinformação e criação de conteúdos sexualizados sem consentimento. Para esses especialistas, concentrar a discussão apenas em uma eventual extinção da humanidade pode tirar atenção de danos que já afetam pessoas e instituições.

A discussão também envolve o poder das próprias empresas que desenvolvem a tecnologia. OpenAI e Anthropic estão entre as companhias que defendem regras para aumentar a segurança dos sistemas. Críticos, por outro lado, questionam se a regulamentação proposta pelas grandes empresas poderia acabar dificultando a entrada de concorrentes menores no mercado.

Empresas pedem mais controle

O CEO da OpenAI, Sam Altman, e o diretor da Anthropic, Dario Amodei, defenderam que o avanço da IA seja acompanhado por avaliações de segurança e mecanismos de monitoramento.

A ideia não seria interromper o desenvolvimento da tecnologia, mas reduzir a velocidade o suficiente para que novos sistemas sejam submetidos a testes antes de serem disponibilizados. Amodei também defende avaliações realizadas por equipes independentes.

Altman afirmou que o avanço da IA deve continuar, mas considerou necessário estabelecer um ritmo mais controlado diante dos custos e riscos envolvidos.

EUA e China divergem

Nos Estados Unidos, o governo Donald Trump tem defendido a liderança americana na corrida pela inteligência artificial. A administração considera a tecnologia estratégica para a economia e para a segurança nacional e vem adotando medidas para acelerar seu desenvolvimento.

Trump também minimizou os alertas sobre uma possível ameaça existencial provocada pela IA e afirmou que os Estados Unidos precisam manter vantagem sobre a China.

Pequim, por sua vez, tem ampliado os investimentos em tecnologia própria e defendido maior cooperação internacional para estabelecer regras para a inteligência artificial. O governo chinês também criticou declarações que apresentam a disputa tecnológica entre os dois países como uma questão de ameaça e confronto.

O debate, portanto, reúne duas questões diferentes: como aproveitar o potencial econômico e tecnológico da IA e, ao mesmo tempo, estabelecer mecanismos capazes de limitar riscos que ainda são difíceis de dimensionar. A possibilidade de uma inteligência artificial superar amplamente as capacidades humanas continua sendo uma hipótese, mas a velocidade dos avanços mantém o tema no centro das discussões entre pesquisadores, empresas e governos.

Fonte: BBC Brasil.