Yann a tout simplement tort ici, il confond l'intelligence générale avec l'intelligence universelle. Les cerveaux sont les phénomènes les plus exquis et complexes que nous connaissions dans l'univers (jusqu'à présent), et ils sont en fait extrêmement généraux. Évidemment, on ne peut pas contourner le théorème du « pas de déjeuner gratuit », donc dans un système pratique et fini, il doit toujours y avoir un certain degré de spécialisation autour de la distribution cible qui est en train d'être apprise. Mais le point concernant la généralité est qu'en théorie, dans le sens de la machine de Turing, l'architecture d'un tel système général est capable d'apprendre n'importe quoi de calculable, donné suffisamment de temps et de mémoire (et de données), et le cerveau humain (et les modèles de base de l'IA) sont des machines de Turing approximatives. Enfin, en ce qui concerne les commentaires de Yann sur les joueurs d'échecs, c'est incroyable que les humains aient pu inventer les échecs en premier lieu (et tous les autres aspects de la civilisation moderne, de la science aux 747 !) sans parler de devenir aussi brillants que quelqu'un comme Magnus. Il n'est peut-être pas strictement optimal (après tout, il a une mémoire finie et un temps limité pour prendre une décision), mais c'est incroyable ce qu'il et nous pouvons faire avec nos cerveaux étant donné qu'ils ont évolué pour la chasse et la cueillette.

Yann LeCun dit que les LLM ne sont pas une bulle en termes de valeur ou d'investissement ; ils alimenteront de nombreuses applications utiles et justifieront une grande infrastructure. La bulle, c'est de croire que les LLM seuls atteindront une intelligence de niveau humain. Le progrès nécessite des percées, pas seulement plus de données/de calcul. "il nous manque quelque chose de grand"