iOS 18.2 : déjà un premier scandale pour Apple Intelligence
Une fonctionnalité phare de l’IA trébuche dès ses premiers pas.
Tim Cook et ses équipes espéraient peut-être entrer sur le marché de l’IA sans encombre, et sans casseroles, contrairement à Google, mais il semble que cela soit compliqué ! Alors que de l’autre côté de la Manche, nos voisins britanniques ont droit à Apple Intelligence, une polémique éclate déjà autour de l’une de ses fonctionnalités.
La suite d’outils IA d’Apple propose pour rappel tout un panel de nouvelles fonctionnalités, dont une qui résume intelligemment vos notifications. Malheureusement, cette dernière semble déjà montrer quelques ratés inquiétants.
Une IA qui invente des fausses informations
Cette semaine, la BBC a contacté Apple pour se plaindre d’un résumé trompeur généré par l’IA. La fonctionnalité a produit un titre d’article mensonger à propos d’un meurtre très médiatisé aux États-Unis.
Selon ce titre erroné, Luigi Mangione, un homme arrêté pour le meurtre d’un PDG, se serait suicidé:
© BBC.
Une information totalement fausse que la BBC n’a pourtant jamais publiée ! Le média britannique a rapidement demandé à Apple de soulever ce problème et le résoudre.
D’autres cas similaires rapportés
Le New York Times a également vu certains de ses articles résumés de façon trompeuse par l’IA d’Apple. L’un des titres générés mentionnait notamment l’arrestation du Premier ministre israélien, alors que l’article original évoquait simplement un mandat d’arrêt à son encontre:
© BBC
Ces exemples mettent en lumière les limites actuelles de l’intelligence artificielle dans le domaine de l’information. Selon un expert interrogé, cette erreur d’Apple est embarrassante et révèle la pression exercée sur les GAFAM, qui en viennent à sortir des fonctionnalités qui n’étaient pas réellement prêtes, au détriment de la qualité.
Pour l’instant, la firme de Cupertino n’a pas réagi publiquement à l’incident, mais cette bavure jette une ombre sur le déploiement international d’Apple Intelligence.
Apple va devoir rapidement agir pour rassurer sur la fiabilité de ses outils d’IA. Le risque de désinformation via des titres générés artificiellement est réel. Un défi majeur pour l’entreprise, qui avait d’ailleurs pris des mesures que les autres GAFAM n’avaient pas prises, afin d’entrer dans le marché de l’IA plus « proprement ».
ufir
14 décembre 2024 à 18 h 51 min
Bonsoir, y’a bien quelqu’un qui a laissé l’intelligence artificielle écrire, c’est pas Apple qui a écrit pour la BBC ou le NYT ?
Sunit
15 décembre 2024 à 0 h 17 min
Cette question résume l’article :
– absence de supervision
– IA mise en prod pour répondre à un impératif de calendrier.
– niveau de qualité subsidiaire au point précédent.
Apple n’a pas écrit, non.
Apple a donné la plume et le papier à un parfait ignorant en lui demandant de résumer tous les papiers qui lui passent devant les yeux même sans maîtrise des sujets et sans recoupement (ce qu’on demande pourtant très tôt à tout élève dans l’enseignement inférieur).
Apple n’a pas écrit. Il est pourtant responsable.
heybee
14 décembre 2024 à 21 h 48 min
ARTIFICIELLE sûrement,
INTELLIGENCE sûrement pas !
C’est donc de la part d’Apple comme de tous les autres opérateurs d’IA une publicité mensongère.