Une nouvelle IA superpuissante serait la cause du départ de Sam Altman
Selon certains, elle présente un danger pour l’humanité.
On apprenait il y a quelques jours le licenciement du CEO d’OpenAI, Sam Altman. Ce dernier a été mis à l’écart par les quatre membres du conseil d’administration à cause de son supposé manque de transparence.
Peu de temps après qu’il ait été mis de côté, Microsoft lui a proposé un poste similaire à celui qu’il occupait chez OpenAI. Il l’a d’ailleurs accepté, mais il paraissait évident qu’il espérait quand même récupérer sa place. Dans le même temps, de nombreuses voix se sont élevées pour le faire revenir dans l’équipe. Son président a également quitté OpenAI dans la foulée afin d’essayer d’influer sur la décision du conseil, mais cela n’a pas marché.
À ce moment-là, il semblait évident que c’était la fin pour Sam Altman. Mais voyant que le départ de leur patron commençait à se concrétiser, 505 des 700 employés d’OpenAI ont signifié au conseil d’administration leur intention de quitter l’entreprise si leur CEO ne revenait pas.
Il semble que cela ait fait basculer la situation en sa faveur, car il a été réintégré par la suite. OpenAI a par ailleurs, dans le même temps, élu un nouveau conseil d’administration et s’est séparé des membres ayant pris la décision de licencier Sam Altman.
Alors que les raisons de son départ n’étaient pas claires, Reuters vient aujourd’hui apporter des éléments qui pourraient expliquer la situation.
De l’IA générative à l’IA générale
Actuellement, l’intelligence artificielle dont nous entendons parler depuis quelques temps est dite « générative ». C’est-à-dire que l’IA se base sur des informations que des êtres humains lui ont fournis pour répondre aux demandes qui lui sont soumises. Si elle est apte à résoudre certains problèmes de maths difficiles, c’est uniquement car on le lui a appris.
Mais il se pourrait dorénavant qu’OpenAI soit parvenue à développer une IA superpuissante qui serait capable de résoudre des problèmes de mathématique qu’aucun être humain n’a jamais réussi à élucider. Cette nouvelle IA, baptisée Q (se prononçant Q-Star) serait désormais de type « générale » et non plus « générative ».
Serait-ce la raison de la mise à l’écart ?
Selon Reuters donc, ce serait une lettre qu’a reçu le conseil d’administration qui a engendré la révocation de Sam Altman. Elle aurait été écrite par des chercheurs de l’entreprise, faisant part aux membres du conseil d’administration de leurs inquiétudes quant au projet Q. Selon eux, ce type d’IA pourrait présenter des dangers pour l’humanité étant donné qu’elle est plus « indépendante ».
Mais la lettre ne serait pas la seule raison de son renvoi, qui serait plutôt la conséquence d’une accumulation d’imprudence de la part de Sam Altman. Le CEO aurait en effet communiqué à propos de l’IA « Q » lors d’un sommet des dirigeants mondiaux. Il a été écarté un jour plus tard.
