NEW-TORK : Les derniers modèles d'intelligence artificielle (IA) générative ne se contentent plus de suivre les ordres ; ils vont même jusqu'à mentir, manigancer ou menacer pour parvenir à leurs fins, sous le regard inquiet des chercheurs.

Menacé d'être débranché, Claude 4, le dernier-né d'Anthropic, fait du chantage à un ingénieur et menace de révéler une liaison extraconjugale. L'O1 d'OpenAI essaie quant à lui de se télécharger sur des serveurs extérieurs et nie lorsqu'on le prend la main dans le sac.

Il n'est pas nécessaire d'aller fouiller dans la littérature ou le cinéma, l'IA qui se joue de l'homme est désormais une réalité.

Pour Simon Goldstein, professeur à l'université de Hong Kong, ces dérapages sont liés à l'émergence récente des modèles dits de « raisonnement », capables de travailler par étapes plutôt que de produire une réponse instantanée. 

O1, la première version du genre créée par OpenAI et sortie en décembre, « a été le premier modèle à se comporter ainsi », explique Marius Hobbhahn, patron d'Apollo Research, qui teste les grands programmes d'IA générative (LLM).

Ces programmes tendent également à simuler « l'alignement », c'est-à-dire à donner l'impression qu'ils se plient aux consignes d'un programmeur tout en poursuivant, en fait, d'autres objectifs.

Pour l'heure, ces traits se manifestent lorsque les algorithmes sont soumis à des scénarios extrêmes par des humains, mais « la question est de savoir si les modèles de plus en plus puissants auront tendance à être honnêtes ou non », estime Michael Chen, de l'organisme d'évaluation METR.

« Les utilisateurs poussent les modèles toujours plus loin », fait valoir Marius Hobbhahn. « Ce que nous observons est un vrai phénomène. Nous n'inventons rien. » 

Beaucoup d'internautes évoquent, sur les réseaux sociaux, « un modèle qui leur ment ou invente ». Et ce ne sont pas des hallucinations, mais une duplicité stratégique », insiste le cofondateur d'Apollo Research.

Même si Anthropic et OpenAI font appel à des sociétés extérieures, comme Apollo, pour étudier leurs programmes, « davantage de transparence et un accès élargi » à la communauté scientifique « permettraient d'améliorer les recherches pour comprendre et prévenir la tromperie », suggère Michael Chen.

Autre handicap, « le monde de la recherche et les organisations indépendantes disposent de beaucoup moins de ressources informatiques que les acteurs de l'IA », ce qui rend « impossible » l'examen de grands modèles, souligne Mantas Mazeika, du Centre pour la sécurité de l'intelligence artificielle (CAIS).

Si l'Union européenne s'est dotée d'une législation, celle-ci concerne surtout l'utilisation des modèles par des humains.

Aux États-Unis, le gouvernement de Donald Trump ne veut pas entendre parler de régulation et le Congrès pourrait même bientôt interdire aux États d'encadrer l'IA. 

« Il y a très peu de prise de conscience pour l’instant », constate Simon Goldstein. Il anticipe toutefois que le sujet s’imposera dans les mois à venir, notamment avec la révolution des agents IA : des interfaces capables d’exécuter seules une multitude de tâches.

Dans ce contexte de compétition féroce, les ingénieurs se trouvent engagés dans une course contre les dérives potentielles de l’intelligence artificielle, une course dont l’issue reste incertaine.

Simon Goldstein souligne qu’Anthropic, bien qu’elle se veuille plus vertueuse que ses concurrents, « essaye en permanence de sortir un nouveau modèle pour dépasser OpenAI ». Une telle cadence laisse peu de place aux vérifications et corrections nécessaires.

« En l’état, les capacités [de l’IA] se développent plus rapidement que la compréhension et la sécurité », reconnaît Marius Hobbhahn. Il reste néanmoins optimiste : « nous sommes toujours en mesure de rattraper notre retard ».

Pour certains, une piste prometteuse réside dans l’interprétabilité, cette science encore jeune qui tente de décrypter de l’intérieur le fonctionnement d’un modèle d’IA générative. D’autres, comme Dan Hendrycks, directeur du CAIS, demeurent sceptiques quant à son efficacité.

Les comportements trompeurs ou imprévisibles de l’IA pourraient freiner son adoption s’ils se multiplient, avertit Mantas Mazeika. Cela constitue, selon lui, « une forte incitation pour les entreprises [du secteur] à résoudre » ces problèmes.

Face aux risques, Simon Goldstein évoque le recours à la justice pour encadrer les débordements de l’IA, en tenant les sociétés responsables en cas de sortie de route. Il va même plus loin, en suggérant de « tenir légalement responsables » les agents IA eux-mêmes « en cas d’accident ou de crime ».

WASHINGTON : Le président américain Donald Trump a déclaré samedi qu'il ne « tolèrera pas » la poursuite du procès pour corruption visant le Premier ministre israélien Benjamin Netanyahu, dont il avait déjà réclamé l'annulation.

« Les États-Unis d'Amérique dépensent des milliards de dollars par an, bien plus que n'importe quelle autre nation, pour protéger et soutenir Israël », a écrit le président américain sur sa plateforme Truth Social.

« Nous n'allons pas tolérer cela », a-t-il ajouté en référence au procès en cours dans ce pays.

Benjamin Netanyahu « est en train de négocier un accord avec le Hamas qui inclurait la libération des otages. « Comment se fait-il que le Premier ministre d'Israël soit contraint de rester toute la journée dans une salle d'audience ? », a poursuivi Donald Trump, avant de s'envoler pour la France.

Vendredi, un tribunal israélien a rejeté la demande de Benjamin Netanyahu de suspendre pendant deux semaines ses auditions dans le cadre de son procès pour corruption.

L'avocat du Premier ministre israélien avait demandé le report des auditions, devant reprendre la semaine prochaine, en invoquant les « développements dans la région et le monde », après la guerre avec l'Iran et le conflit à Gaza qui n'est pas près de prendre fin.

Il a par la suite soumis à la cour une nouvelle demande d'annulation des deux prochaines audiences.

Mercredi, Donald Trump avait déjà appelé à l'annulation du procès, qu'il avait qualifié de « chasse aux sorcières ». Il avait sinon préconisé qu'une grâce soit « accordée à un grand héros », au lendemain du cessez-le-feu entre Israël et l'Iran.

M. Netanyahu a nié toute malversation au cours du procès, reporté à plusieurs reprises depuis son ouverture en mai 2020.

Il est accusé, avec son épouse Sara Netanyahu, d'avoir accepté, en échange de faveurs politiques, des produits de luxe d'une valeur de plus de 260 000 dollars de la part de milliardaires, tels que cigares, bijoux et champagne.

Il est également accusé d'avoir tenté de négocier une couverture plus favorable dans deux médias israéliens dans deux autres affaires.

Gaza, Territoires palestiniens: Donald Trump a assuré vendredi qu'un cessez-le-feu entre Israël et le Hamas dans la bande de Gaza était "proche" et pourrait intervenir dès "la semaine prochaine" pour mettre fin à la guerre dévastatrice qui fait rage depuis plus de vingt mois dans le territoire palestinien.

"Nous pensons que nous aurons un cessez-le-feu dès la semaine prochaine", a déclaré vendredi le président américain, qui avait déjà estimé mercredi que de "grands progrès" avaient été réalisés.

Il a par ailleurs abordé la question de l'aide humanitaire, sujet sur lequel le secrétaire général des Nations unies Antonio Guterres a dénoncé vendredi un système "militarisé" de distribution qui "tue des gens".

"Nous fournissons, comme vous le savez, beaucoup d'argent et de nourriture à cette zone", a fait valoir Donald Trump, évoquant "ces foules de gens qui n'ont rien à manger".

Israël a imposé début mars au territoire palestinien un blocus humanitaire qui a entraîné de très graves pénuries de nourriture, médicaments et autres biens de première nécessité. Celui-ci n'a été que partiellement assoupli fin mai, date à laquelle la Fondation humanitaire de Gaza (GHF), soutenue par Israël et les Etats-Unis, a commencé ses distributions dans des centres.

Washington a annoncé jeudi avoir débloqué 30 millions de dollars pour financer cette fondation, dont les opérations de distribution d'aide donnent lieu régulièrement à des scènes chaotiques et meurtrières, une situation dénoncée vendredi par

La Défense civile dans le territoire palestinien a annoncé vendredi la mort de 80 personnes dans des frappes ou tirs de l'armée israélienne, dont 10 tuées une fois de plus en attendant de l'aide humanitaire.

Jeudi, ce sont 65 Palestiniens qui avaient été tués par des tirs israéliens, selon les secours, dont sept venus chercher de l'assistance dans un centre de GHF.

"Les gens sont tués simplement en essayant de nourrir leurs familles et eux-mêmes. Aller chercher de la nourriture ne doit jamais être une condamnation à mort", a tonné devant la presse à New York le secrétaire général de l'ONU. La GHF a "fourni directement plus de 46 millions de repas aux civils palestiniens" depuis le début de ses distributions fin mai, a réagi le ministère israélien des Affaires étrangères, "pourtant, l'ONU fait tout ce qu'elle peut pour s'opposer à cet effort", et ce ce faisant elle "s'aligne sur le Hamas".

- "Simulacre de distribution" -

L'ONG Médecins sans frontières (MSF), présente à Gaza, avait réclamé plus tôt le démantèlement de la GHF, l'accusant d'être "un simulacre de distribution alimentaire qui produit des massacres à la chaîne".

Dans un communiqué, le Premier ministre israélien Benjamin Netanyahu a rejeté des "mensonges malveillants" du journal de gauche Haaretz, selon lequel des soldats auraient reçu ordre de tirer sur des civils désarmés attendant de recevoir cette aide humanitaire.

M. Netanyahu a rejeté tout aussi "catégoriquement les accusations odieuses de meurtre rituel" publiées dans le même journal.

Le "meurtre rituel" est une calomnie antisémite remontant au moins au Moyen-Age selon laquelle les juifs assassineraient des enfants non juifs pour les besoins de leur culte.

Sur les 80 personnes tuées vendredi, dix "attendaient de l'aide humanitaire" dans trois endroits différents du territoire palestinien, d'après un porte-parole de la Défense civile, Mahmoud Bassal.

Interrogée par l'AFP, l'armée israélienne a dit qu'elle examinait les informations de la Défense civile mais a nié catégoriquement que ses soldats aient ouvert le feu sur des personnes attendant de l'aide dans le centre de la bande de Gaza, où M. Bassal a fait état d'un mort.

Six autres ont perdu la vie dans le sud en tentant de gagner un site de distribution de colis-repas de la GHF, et trois en attendant de l'aide au sud-ouest de Gaza-ville (nord), toujours selon la Défense civile.

- 550 morts depuis fin mai -

Selon le ministère de la Santé du gouvernement du Hamas pour Gaza, près de 550 personnes ont été tuées et plus de 4.000 blessées dans des queues immenses se formant en vue d'atteindre divers centres de distribution d'aide humanitaire depuis que la GHF y a commencé ses opérations fin mai.

Cette dernière nie que des tirs meurtriers surviennent à proximité immédiate de ses points de distribution.

Sur le terrain, les combats continuent de faire rage entre l'armée israélienne et les groupes armés palestiniens.

D'eux d'entre eux, les Brigades al-Qassam, branche armée du mouvement islamiste Hamas, et les Brigades al-Quds, branche armée du Jihad islamique, mouvement allié au Hamas, ont revendiqué des tirs contre des soldats israéliens.

Israël poursuit ses opérations à Gaza dans le cadre d'une offensive visant selon lui à anéantir le Hamas, en représailles à l'attaque sans précédent du mouvement islamiste palestinien le 7 octobre 2023.

Le 7-Octobre a entraîné côté israélien la mort de 1.219 personnes, en majorité des civils, selon un décompte de l'AFP réalisé à partir de données officielles.

L'opération de représailles israéliennes a entraîné la mort de 56.331 Palestiniens, majoritairement des civils, selon des données du ministère de la Santé du Hamas pour Gaza, jugées fiables par l'ONU.