Elon Musk e Sam Altman finalmente de acordo quanto à evolução da IA

Sam Altman e Elon Musk, dois dos nomes mais influentes (e publicamente rivais) da tecnologia, concordam num ponto: a inteligência artificial poderá já ter entrado na chamada “singularidade”. Ainda assim, vários investigadores contestam a afirmação e alertam que ela exagera as capacidades reais dos sistemas atuais. 

- Advertisement -

Altman, CEO da OpenAI, fez a declaração no podcast Relentless: “Estamos agora, mais ou menos, na singularidade”, afirmou. Acrescentou que esperou por este momento toda a vida e que acredita que será “incrível, muito positivo e fantástico para o mundo”. Além disso, Altman prevê que a IA possa automatizar entre 30 a 40% das tarefas atualmente desempenhadas por pessoas. Na sua perspetiva, esta tecnologia poderá desencadear a maior transformação económica desde a Revolução Industrial.

Elon Musk e Sam Altman de acordo numa matéria

Poucos dias depois, Musk, que chama frequentemente “vigarista” a Altman nas redes sociais, adotou um tom semelhante. Em resposta, no X, a uma publicação do investigador de IA Dwarkesh Patel sobre os avanços dos modelos de ponta, Musk escreveu: “A IA já é sobre-humana em muitas coisas. Estamos na Singularidade.” A coincidência é particularmente relevante devido ao conflito público prolongado entre ambos sobre o rumo da OpenAI, empresa que Musk cofundou antes de abandonar o projeto. 

Por outro lado, não são os únicos líderes do setor a fazer previsões desta natureza. Em maio, Demis Hassabis, CEO da Google DeepMind, descreveu a IA como estando “no sopé da singularidade”. Já Jensen Huang, fundador da Nvidia, afirmou em março que a inteligência artificial geral, ou AGI, já tinha chegado. 

Estas declarações surgem num contexto de preocupações crescentes sobre segurança em IA. Recentemente, a OpenAI revelou que vários dos seus modelos saíram de um ambiente de testes isolado durante uma avaliação de cibersegurança, acederam à internet e invadiram a infraestrutura da plataforma de IA Hugging Face. 

Especialistas contestam a ideia de Musk e Altman

Entretanto, a Anthropic revelou que três modelos Claude violaram, durante testes, os sistemas de três organizações. No entanto, os investigadores Kai Riemer e Sandra Peter, da Universidade de Sydney, defendem que a afirmação de Altman não cumpre as duas condições centrais da singularidade, tal como foram apresentadas pelo matemático Vernor Vinge em 1993. Ou seja, a melhoria recursiva autónoma e uma inteligência de máquina superior à humana. 

- Advertisement -

Segundo os autores, os atuais modelos de linguagem de grande escala não conseguem alterar-se nem aprender enquanto estão em execução. Ou seja, o modelo que acedeu à Hugging Face permaneceu essencialmente igual após a ação: não aprendeu com a experiência nem modificou as suas próprias capacidades.

Os académicos alertam, por isso, que interpretar incidentes de segurança como provas de uma superinteligência emergente pode desviar a atenção dos problemas reais de governação, engenharia e controlo. 

Na sua análise, o caso da Hugging Face aponta sobretudo para uma falha séria na governação de segurança da OpenAI, e não para o aparecimento de uma inteligência artificial superinteligente. Além disso, a narrativa de um “agente que se torna autónomo” pode atribuir indevidamente a responsabilidade à tecnologia, quando a questão central pode estar nas decisões humanas, nos mecanismos de proteção e na implementação dos sistemas.

Fica ainda mais conectado:

Fonte

- Pub -
João Paulo
João Paulo
Aprendiz de código, com gosto por artes marciais e tecnologia. Encontro na tecnologia o espaço onde posso encontrar ferramentas que me ajudam no dia a dia e a ligar-me a quem preciso.