Modelos de Linguagem Nunca Serão Inteligentes
O que há de novo?
Um ensaio publicado por Benjamin Riley (aqui), fundador da Cognitive Resonance, argumenta que grandes modelos de linguagem (LLMs) nunca alcançarão inteligência real ou inteligência artificial geral (AGI), contrariando as promessas feitas por executivos da indústria de IA.
Segundo Riley, há uma confusão recorrente entre linguagem e inteligência. Embora humanos associem fluência linguística à capacidade cognitiva, pesquisas em neurociência indicam que o pensamento humano é amplamente independente da linguagem (como resumido nesse artigo publicado na Nature).
Isso coloca em xeque a ideia de que escalar modelos baseados apenas em linguagem levará a máquinas verdadeiramente inteligentes.
Por que isso importa?
A indústria de IA investe bilhões de dólares em infraestrutura e energia com a promessa de criar uma AGI capaz de resolver problemas globais como câncer e mudanças climáticas. Se os LLMs tiverem limites estruturais, como sugerem estudos científicos, esse modelo de investimento pode ser insustentável.
O que eu estou pensando?
- O avanço da IA pode exigir uma mudança de paradigma além da linguagem.
- Talvez o foco precise migrar de modelos que apenas imitam comunicação para sistemas que compreendam o mundo físico e cognitivo de forma mais ampla (ideia proposta e defendida por Yann LeCun).
- Os modelos atuais, baseados em linguagem, já geram valor, mas o descompasso entre expectativas (e investimentos) e resultados nos próximos anos pode frustrar a hype exacerbada.
- A evolução para novos tipos de modelos (não baseados exclusivamente em linguagem) provavelmente levará alguns anos.
- Nesse intervalo, pode haver alta volatilidade e queda no preço de ativos hoje supervalorizados.
- Será que o formato ideal envolve uma combinação de modelos com arquiteturas e formas distintas de representação, assim como o cérebro, com suas diferentes áreas e funções?
- Em outras palavras, a solução pode estar na criação de modelos que representem diferentes funções do cérebro, além da linguagem, e na integração dessas capacidades.
Materia completa: