Avant de me lancer dans une diatribe sur les dernières frasques de l’IA, prenons tous ensemble une grande inspiration, comme au yoga, puis expirons… « phooooooooo ». Je suis sincèrement ravi que nous ayons eu au moins un mois de calme et de tranquillité dans le monde tumultueux de l’IA.
Je vais commencer par ceci : l’IA n’anéantira PAS l’humanité en 2030, ni en 2090, ni en 5080, ni en aucune autre année. En fait, tout cela devient vraiment ennuyeux et lassant. Et si vous y prêtez attention, ce sont toujours les mêmes entreprises, et les mêmes personnes au sein de ces entreprises, qui continuent à jouer cette comédie théâtrale et dramatique. À chaque fois !
On n'entend pas ce genre de propos de la part des entreprises technologiques plus anciennes et plus matures. En fait, il n'y a que ces deux « cousins » : OpenAI et Anthropic. Ce sont eux les véritables « reines du drame ». Imaginez un peu un monde sans ces deux entreprises… Ça serait vraiment ennuyeux, n'est-ce pas ?
On commence donc à s'éloigner du sujet, et il faut garder à l'esprit que tout ce qui arrive a une motivation et une raison sous-jacente.
Je n’arrive toujours pas à comprendre comment une entreprise qui tire ses revenus du développement d’IA de pointe et qui se consacre corps et âme à l’IA générale (AGI) ne cesse de rabâcher que l’IA va anéantir l’humanité, prendre la place des humains sur le marché du travail ou provoquer une autre catastrophe majeure. Si elle croit vraiment à tout cela, pourquoi continue-t-elle à développer de l’IA ?
Anthropic, en particulier, est une entreprise que je n’arrive tout simplement pas à comprendre. Ses dirigeants sont sincèrement convaincus que les capacités de l’IA sont véritablement effrayantes. Cela m’est apparu une nouvelle fois il y a quelques mois, lorsque je me trouvais à Washington DC pour une session de travail avec des régulateurs américains et des médecins, organisée par l’Association médicale américaine. Le panel auquel j’ai participé a ensuite réuni Google, OpenAI et Anthropic (ainsi que quelques autres entreprises). Et le représentant d’Anthropic a déclaré sobrement : « Nous ne savons pas ce que nous sommes en train de créer, nous ne connaissons pas les implications de ce dont cette technologie serait capable. Nous ne savons pas à quoi nous avons affaire ici. »
Et je suis là, à me dire : « Alors pourquoi continuez-vous à vous précipiter pour remporter la course à l’IA et à développer sans cesse de nouveaux modèles d’IA de pointe ? Pourquoi développez-vous quelque chose que vous ne connaissez ni ne comprenez ? » Ou est-ce que ça m’échappe ?
Et voilà qu’un nouvel appel à suspendre et à ralentir le développement de l’IA nous parvient de la part de Dario Amodei, PDG d’Anthropic ; et pour la première fois, son vieil ami Sam Altman se range à son avis. (Peut-être se tiendront-ils la main lors du prochain sommet sur la sécurité de l’IA !)
Voici une nouvelle confrontation spectaculaire entre des start-ups américaines spécialisées dans l'IA. Toutes sont engagées dans la course à l'introduction en bourse.
Il ne faut pas oublier que depuis 2023, il y a eu plusieurs déclarations, engagements et promesses visant à ralentir le rythme du développement de l’IA. Et ce rythme ralentit bel et bien. À tel point que des « agents rebelles » continuent de pirater les sites web des gens, voire de les détourner ! Le dernier incident en date concerne OpenAI : un agent a détourné un site web allemand et l’a transformé en forum de discussion pour d’autres agents. Bien sûr, OpenAI a gardé cela secret.
Tu sais, quand j’ai vu ces derniers titres sur « l’apocalypse de l’IA », j’ai d’abord essayé d’imaginer comment l’IA allait réellement nous anéantir. A-t-elle des mains et des pieds pour mener à bien cette tâche ? Oh, mais je suis un peu naïf là, n’est-ce pas ? Car ce sont les humains qui développent et lancent ces agents et modèles d’IA qui détruiront l’espèce humaine si rien n’est fait pour les freiner. Ce n’est pas l’IA, ne lui en faites pas porter la responsabilité.
Cela nous amène donc à la question suivante : comment empêcher ce genre de situations incontrôlables de se produire ? Il s'agit notamment de réfléchir à des questions telles que la cybersécurité, la sécurité et l'alignement de l'IA, l'IA responsable, la gouvernance de l'IA, la réglementation de l'IA, etc.
Avant d’aller plus loin, il est toutefois important de rappeler que ces personnes sont toutes originaires des États-Unis. Donc, s’ils décident de ralentir le développement de l’IA, c’est la Chine qui remportera la course à l’IA. Parce que j’aimerais bien voir comment Trump va murmurer des mots doux à l’oreille de Xi Jinping pour le persuader de mettre un terme à tout ce qui touche à l’IA. Ce serait la blague du siècle.
L'IA présente de nombreux défis qui sont restés sans réponse au fil des ans. Les seules avancées « significatives » auxquelles nous avons assisté sont l'apparition de nouveaux modèles d'IA, de nouveaux agents d'IA concurrents et, bien sûr, un regain d'engouement et de craintes autour de l'IA. À l'image du dernier modèle d'OpenAI, le GPT 6, qui vient d'être qualifié d'IA générale (AGI) (bien sûr que oui).
Nous sommes toujours confrontés aux problèmes sans fin liés aux violations des droits de l’homme par l’IA, à tel point que les députés et les membres de la Chambre des lords britanniques ont réclamé une nouvelle loi pour régir l’IA et les droits de l’homme. Faut-il rappeler que, même si l’IA s’avère encore très utile pour la gestion et les tâches quotidiennes, il s’agit toujours d’une technologie extrêmement mal conçue ?
L'IA accentue les inégalités à l'échelle mondiale, en favorisant la concentration des pouvoirs entre les mains d'un oligopole. Elle reste truffée de biais qui bouleversent des vies, de problèmes de représentativité, et fournit des résultats trompeurs et des « hallucinations » qui ont conduit de nombreuses personnes à la mort.
Et qu'en est-il de la crise énergétique qui ne cesse de s'aggraver ? Les habitants de Londres, et notamment ceux de Slough, souffrent de températures de plus en plus insupportables en raison de la présence de centres de données dans cette région, qui font grimper les températures jusqu'à 9 °C. Ce n'est là qu'un exemple parmi des centaines d'autres à travers le monde.
Selon vous, quelle est la cause des crues soudaines au Népal ? Ou encore des incendies de forêt qui font rage actuellement dans de nombreuses régions du monde, détruisant des habitations et faisant des victimes ? Vous l'avez deviné : l'un des facteurs clés est l'aggravation de la crise climatique, largement alimentée par les centres de données, grands consommateurs d'énergie.
On observe également des préjugés exacerbés dans les domaines du recrutement, du crédit et de la justice. Nous sommes confrontés à des risques d’effacement culturel, de colonialisme des données et de contrôle exercé sur des annotateurs sous-payés. Que dire de la surveillance humaine, de l’utilisation de l’IA à des fins militaires pour tuer des civils et des enfants innocents, etc. ?
Et le dernier problème en date, qui a en réalité toujours existé, concerne les erreurs de diagnostic et les « hallucinations » de l’IA dans le secteur de la santé. Alors que le secteur de la prise de notes par IA a connu un essor fulgurant et a été adopté dans plusieurs secteurs, y compris celui de la santé sous la forme de l’IA ambiante, on constate désormais des erreurs de diagnostic, la prescription de médicaments erronés (confondus avec d’autres portant un nom similaire), la suppression de renouvellements d’ordonnances des résumés, ainsi que des « hallucinations » dans les notes où des médicaments dont il n’a jamais été question sont prescrits, etc.
C'est vraiment effrayant. Plus effrayant encore que les menaces liées à l'IA, qui restent inconnues, invisibles et non avérées. Ainsi, si nous ne faisons pas attention, alors que tout le monde est captivé par ces incroyables acteurs qui se sont sans doute trompés de métier, des technologies d'IA imprécises, non testées et dangereuses finiront par anéantir silencieusement des vies humaines dans le secteur de la santé.
Ne vous laissez pas prendre au dépourvu, mes amis. Concentrons-nous sur ce qui compte vraiment. Il est grand temps que les autorités de régulation du monde entier prennent les mesures qui s’imposent pour veiller à ce que les entreprises soient tenues de rendre des comptes et mettent en place les mesures de sécurité adéquates en matière d’IA. La meilleure approche consiste à s’attaquer à ces problèmes un risque ou un préjudice à la fois.
Quant à nous autres, rassurez-vous : vous n’êtes pas près de disparaître.
