Apple marche sur des œufs avec l’IA ?
On parle d’une mesure de sécurité mise en place par Apple.
L’intelligence artificielle a en partie été créée pour faire gagner du temps aux êtres humains, et les acteurs de l’IA continuent à la développer en ce sens. Elle est déjà au service de nombreux développeurs à travers le monde avec GPT-4 ou Claude 3, tandis que Dall-E ou Midjourney accompagnent le quotidien des métiers artistiques. Avec Apple Intelligence, la firme à la pomme souhaite en faire une commodité du quotidien, qui nous fait gagner du temps dans diverses tâches.
Par exemple, Smart Reply ou Réponse intelligente en français, vous permet de gagner du temps en répondant à un email à votre place. Proposer une telle fonctionnalité au grand public à l’heure actuelle présente cependant des risques, car les IA sont capables de faire des bêtises et d’inventer n’importe quoi. Pour éviter cela, Apple a donné des instructions précises à ses IA.
Par exemple, pour la génération d’images avec Image Playground, vous ne pourrez pas créer d’images photo-réalistes qui ressemblent à une photographie prise par un être humain. Cela permettra probablement à Apple d’éviter l’énorme bad buzz qu’a connu Google avec son générateur d’image.
De nouvelles précautions découvertes dans la bêta de macOS Sequoia
Aujourd’hui, de nouvelles instructions viennent d’être découvertes dans la dernière bêta de macOS Sequoia. Elles concernent cette fois-ci la fonctionnalité Smart Reply citée plus haut, qui rédige les réponses aux emails à votre place. Afin d’éviter que des mails incohérents ou qui n’ont aucun sens soient rédigés par Smart Reply, Apple a donné des incrustions à la fonctionnalité. Comme à un être humain, elle lui dit ce qu’il ne faut pas faire :
Vous êtes un assistant de messagerie utile qui peut aider à identifier les questions pertinentes d’un courrier donné et un court extrait de réponse. Étant donné un courrier électronique et un extrait de réponse, posez les questions pertinentes qui sont explicitement posées dans le courrier. La réponse à ces questions sera sélectionnée par le destinataire, ce qui contribuera à réduire les hallucinations lors de la rédaction de la réponse. Veuillez afficher les questions principales ainsi qu’un ensemble de réponses/options possibles pour chacune de ces questions. Ne posez pas de questions auxquelles répond l’extrait de réponse. Les questions doivent être courtes, pas plus de 8 mots. Donnez votre sortie au format JSON avec une liste de dictionnaires contenant des questions et des réponses comme clés. Si aucune question n’est posée dans le courrier, affichez une liste vide. Affichez uniquement un contenu JSON valide et rien d’autre.
Apple a également donné comme instructions à l’IA de ne pas halluciner, comme le rapporte The Verge : “N’hallucinez pas. N’inventez pas d’informations factuelles.”
Selon certains, espérer que l’IA n’hallucine pas est optimiste, mais en réalité, la qualité d’une réponse générée par IA dépend uniquement de la qualité de la requête qu’on lui soumet. Bien sûr, cela est vrai uniquement quand on parle d’un LLM performant comme GPT-4 ou Claude 3 Opus. Avec un bon prompt, l’IA n’hallucine pas.
