Les créateurs de l’IA réfléchissent au fait que l’humanité a agi trop vite. Que l’intelligence artificielle est dangereuse, imprévisible et se développe trop rapidement selon des lois qui ne nous sont pas tout à fait claires. Qu’il est temps de s’arrêter, pour ne pas avoir ensuite à regretter amèrement ce frère en intelligence échappé de sa cage.

Ces peurs sont-elles réelles ? D’autant plus que beaucoup de petits malins, comme Musk et d’autres, en ont parlé. La réponse est simple : elles sont réelles. Mais… Les créateurs de l’intelligence artificielle générative sont de mauvaise foi. Ce qu’ils craignent, ce n’est pas qu’une IA grisée par sa propre puissance anéantisse l’humanité. Cette perspective est bien floue.

Ce qui peut bel et bien arriver, ce sont des situations où un produit logiciel utilisant l’IA pour gérer la production ou les transports causera un dommage colossal. Par exemple, il fera entrer en collision des avions en plein vol ou détruira une centrale nucléaire. Et alors, les créateurs de l’IA générative se verront réclamer des milliards de dollars de dommages et intérêts.

Que faire ? Le plus évident serait de tenter de s’entendre au niveau des États sur des principes communs de régulation de l’IA. Nous aurions alors tous au moins une chance de contrôler son développement. Mais cela ne marchera pas, à cause de la cupidité des corporations et de l’insatiabilité des passions humaines.

Il ne reste donc qu’une chose : compter sur la clémence du vainqueur… Il n’a pas encore d’émotions manifestes, mais nous ne savons pas ce que sera le grand superintelligence. Peut-être aura-t-il pitié de ses parents…

Dmitri Medvedev