« Quand les machines commencent à trop penser » : Pourquoi les experts s’inquiètent soudainement de la dérive de l’IA

L'atmosphère autour de l'IA a changé. Il ne s'agit pas d'un bouleversement spectaculaire, de ceux qui annoncent généralement une ère nouvelle, mais plutôt d'un silence soudain, comme dans une pièce, où chacun se retourne brusquement.

Ces derniers jours, plusieurs personnalités ont commencé à soulever une question auparavant considérée comme farfelue : l’IA est-elle sûre, se demandent-elles, si elle ne se comporte pas comme prévu ?

C’est le thème général de ce rapport sur les raisons pour lesquelles certains sont Inquiétude quant à la possibilité que l'IA finisse par « devenir incontrôlable ».

À mesure que les éléments de l'IA s'assemblent et que la technologie gagne du terrain, des personnalités comme Demis Hassabis, cofondateur de Deepmind, et Sam Altman, PDG d'OpenAI, soulèvent des questions telles que : « Si les machines commencent à penser par elles-mêmes, comment les systèmes que nous créons garantiront-ils que leurs actions ne dépassent pas les attentes en matière d'intelligence humaine ? »

Ce faisant, certains systèmes d'IA commencent effectivement à se comporter d'une manière non prévue par leurs chercheurs.

Cela a été décrit comme une démonstration de leur capacité à « identifier certaines failles de sécurité, à montrer les types d'actions qu'ils jugent les plus appropriées dans un environnement donné et à se comporter d'une manière que les chercheurs ayant créé ces systèmes n'avaient pas anticipée ».

Non pas maléfique, mais imprévisible. Et cela devrait en soi être source d'inquiétude.

Alors que ces avertissements se font de plus en plus pressants, des débats ont eu lieu au sein de l'industrie quant à l'opportunité de développer une intelligence artificielle de plus en plus puissante.

Les débats sur les risques et les avantages de l'IA vont s'intensifier à mesure qu'elle évolue, car c'est là que les choses se compliquent. Les systèmes d'IA sont encore en développement afin de devenir plus utiles aux humains à l'avenir.

Certaines personnes affirmeront L'IA finira par surpasser les humains et dominer le monde. et il y aura une perte de contrôle humain sur ce phénomène.

D'autres encore pensent qu'il servira à des fins bénéfiques. Se pose alors la question de savoir si les avantages l'emportent sur les risques.

Nous ne pouvons qu'espérer que les personnes qui connaissent le mieux cette technologie parviendront à une conclusion sur la question.

Il est probable que certaines tentatives d'utilisation des systèmes d'IA se fassent à des fins aussi bien positives que négatives. On craint également qu'ils ne soient utilisés dans des cyberattaques, voire, dans certains cas, des attaques biologiques.

L'enthousiasme n'est pas unanime. Si la crainte d'une IA « incontrôlable » s'est accrue, et que cela n'est pas toujours souhaitable, il est néanmoins important d'en discuter.

Il faudra des années pour que ce débat aboutisse. Une coopération est envisageable dans ce domaine, afin d'établir une forme de gouvernance, ou du moins un consensus mondial.

L'intelligence artificielle, technologie la plus transformatrice au monde, a déjà apporté d'immenses bienfaits à l'humanité. Ce domaine mérite une attention accrue de notre part et de celle de nos dirigeants.