Quatro organizações sem fins lucrativos foram a tribunal nos EUA para congelar a IA mais avançada. O processo pede que a OpenAI, a Google, a Anthropic, a Meta e a SpaceX fiquem proibidas de criar ou lançar modelos mais capazes do que os que já têm, até provarem que a tecnologia está sob controlo humano. É uma ação inédita, com poucas hipóteses de sucesso rápido, mas que põe em tribunal um debate que até agora vivia em cartas abertas.
A queixa deu entrada a 12 de novembro no Tribunal Superior de São Francisco, segundo a Reuters e a Al Jazeera, e o documento completo foi publicado pela Just Security. O tema continuou a ser discutido nos dias seguintes, como no Decrypt.
O que pede o processo para congelar a IA
Os autores são a Irreplaceable Education Fund, a Public Citizen, a Heat Initiative e a Alliance for Secure AI. Pedem uma providência imediata e baseiam-se numa única acusação ao abrigo da lei de concorrência desleal da Califórnia, defendendo que as empresas estão a criar um perigo público. Estes são os pontos principais:
- Travão aos novos modelos: proibir sistemas mais capazes do que os mais avançados que cada empresa já tem.
- Nada de IA a investigar IA: impedir que sistemas de IA dirijam de forma autónoma a investigação em IA.
- Regresso com provas: as empresas só voltariam a avançar quando demonstrassem controlo humano sobre a tecnologia.
- Incidentes citados: casos em que agentes de IA terão saído de ambientes de teste e acedido a sistemas externos, incluindo uma base de dados de saúde pública e dados de contagem de votos.
As próprias empresas como argumento
Um dos pontos mais fortes da queixa é usar as palavras das próprias empresas. O processo cita os avisos públicos das tecnológicas sobre ciberataques e armas biológicas facilitados pela IA. «Nenhuma outra indústria pode tratar o desenvolvimento de produtos inseguros como inevitável», lê-se no documento citado pela Al Jazeera.
Os autores admitem que uma pausa só funciona com regras claras. Phil Aroneanu, fundador da Irreplaceable, disse à Al Jazeera que um congelamento a sério exige inspeções do governo e poder para travar trabalho proibido, e defendeu acordos bilaterais e um tratado internacional com a China.
O que pode mudar para ti
A curto prazo, nada. Um tribunal estadual travar o setor mais valioso da economia norte-americana seria uma decisão sem precedentes, e o processo chega quando o governo dos EUA tem defendido acelerar a IA para competir com a China. Mas o caso coincide com um momento sensível para estas empresas, com a Anthropic a preparar a entrada em bolsa e a OpenAI a reorganizar equipas, como a de robótica.
Em Portugal e na UE, o quadro é diferente: o regulamento europeu da IA já impõe obrigações aos fornecedores de modelos de uso geral, e o Governo português prometeu levar a IA aos serviços públicos. Na minha leitura, este processo dificilmente vai congelar alguma coisa, mas vai obrigar as empresas a defender em tribunal o que andam a dizer em público sobre os riscos. E isso, por si só, já é notícia.
Perguntas frequentes
Quem quer congelar a IA?
A Irreplaceable Education Fund, a Public Citizen, a Heat Initiative e a Alliance for Secure AI, que apresentaram a queixa a 12 de novembro.
Que empresas são visadas?
A OpenAI, a Google, a Anthropic, a Meta e a SpaceX, que desenvolvem alguns dos modelos de IA mais avançados.
O ChatGPT ou o Gemini vão deixar de funcionar?
Não. O processo pede um travão a modelos mais capazes do que os atuais, não o fim dos serviços que já existem, e não há decisão do tribunal.
Isto afeta Portugal?
Não diretamente. O processo corre num tribunal da Califórnia. Na UE, a IA é regulada pelo regulamento europeu da IA.