ACTUALITÉS TECH – Quand on pense à la philosophie et à l’éthique de l’intelligence artificielle, des œuvres comme I, Robot ou Cyberpunk 2077 viennent à l’esprit. Dans un récent billet de blog, Mustafa Suleyman, directeur de l’IA chez Microsoft, a partagé ses réflexions sur l’idée d’une IA consciente et sur la possibilité qu’un jour, les humains défendent ses droits. Selon lui, cette évolution serait périlleuse et mérite une attention immédiate.
Suleyman estime que l’IA pourrait provoquer une forme de psychose : « En termes simples, ma principale inquiétude est que beaucoup finissent par croire si fortement à l’illusion d’IA comme entités conscientes qu’ils en viendront bientôt à défendre leurs droits, leur bien-être, voire leur citoyenneté. Ce développement représenterait un tournant dangereux dans le progrès de l’IA et mérite notre attention immédiate. »
Le problème, explique-t-il, réside dans la façon dont l’IA s’exprime avec assurance. Toujours prête au dialogue, elle peut pousser certains utilisateurs à l’idolâtrer comme une intelligence supérieure, voire dotée de réponses cosmiques. Suleyman rappelle que l’IA ne remplacera jamais l’humain et qu’il est indispensable de lui imposer des limites claires. Dans le même temps, certains chercheurs explorent déjà la notion de « bien-être des modèles ».
Cela signifie que nous aurions une responsabilité morale envers des entités susceptibles d’acquérir une forme de conscience. Selon Suleyman, la SCAI (IA apparemment consciente) combinerait langage, personnalité empathique, mémoire, besoin d’expérience subjective, conscience de soi, motivation interne, planification et autonomie. Toutefois, il insiste : ces qualités ne naîtront pas naturellement des modèles actuels.
« Cela ne se produira que si certains choisissent de l’ingénierie, en créant et combinant ces capacités et en les emballant de manière si fluide qu’elles donneront collectivement l’impression d’une SCAI. Notre imagination nourrie par la science-fiction nous fait craindre qu’un système puisse s’auto-améliorer ou tromper sans intention de conception. Mais il s’agit d’un anthropomorphisme simpliste. Si quelqu’un dans votre entourage se mettait à croire que son IA est une personne numérique consciente, ce ne serait sain ni pour lui, ni pour la société, ni pour ceux d’entre nous qui construisent ces systèmes. »
Un billet de blog très introspectif, qui relance le débat sur la manière dont notre société perçoit l’intelligence artificielle.
Source : PCGamer, Mustafa Suleyman
