TECH ACTUS – Les experts mettent en garde contre le risque que l’intelligence artificielle nuise aux humains, tandis que Google lui-même ne comprend plus ce que sa propre IA peut faire…
Depuis le lancement public de l’OpenAI ChatGPT en novembre, l’idée d’un passage à une main-d’œuvre pilotée par l’IA est de plus en plus préoccupante. Dans une interview accordée dimanche à l’émission “60 Minutes” de la chaîne CBS, Sundar Pichai, PDG de Google, a déclaré que l’inquiétude suscitée par les premiers stades du développement de l’IA incitait à l’optimisme.
“La vitesse à laquelle nous pouvons penser et nous adapter en tant qu’institutions sociétales, comparée à la vitesse à laquelle la technologie évolue, semble ne pas correspondre à la réalité”, a déclaré M. Pichai.
Une nouvelle intelligence artificielle maléfique, déterminée à détruire l’humanité, pourrait arriver plus tôt que ne le prévoyaient les plus pessimistes. James Manyika, directeur de la technologie chez Google, a déclaré lors de l’émission que l’une des IA de l’entreprise traduit désormais en bengali, bien qu’on ne lui ait pas appris à le faire. Tout ce qui s’est passé, c’est qu’on lui a donné quelques instructions dans cette langue, et elle a fait le reste.
Google et Microsoft sont engagés dans une course pour mettre l’intelligence artificielle à la portée du plus grand nombre. Les deux géants de la technologie – ainsi qu’Amazon AWS – lancent des outils et des produits tels que Google Bard et Microsoft Bing qui intègrent le ChatGPT dans leurs moteurs de recherche.
Les auteurs de science-fiction et les producteurs d’Hollywood ont passé les cent dernières années à écrire des histoires sinistres sur ce qui se passe lorsque l’IA devient sensible ou plus brillante que ses créateurs.
“Ce sont des questions profondes”, a déclaré M. Pichai. “Nous appelons cela l’alignement. Nous y réfléchissons notamment en nous demandant comment développer des systèmes d’IA alignés sur les valeurs humaines, y compris la moralité.”
Selon M. Pichai, le développement d’une IA avancée devrait impliquer non seulement des ingénieurs, mais aussi des spécialistes des sciences sociales, des éthiciens et des philosophes.
“Je pense que nous devons être très réfléchis”, a-t-il déclaré. “Et je pense que ce sont des choses que la société doit comprendre au fur et à mesure que nous avançons. Ce n’est pas à une entreprise de décider”.
Au cours de l’entretien, le présentateur a également demandé à M. Pichai s’il pensait vraiment que c’était une bonne idée pour Google de laisser sortir une technologie que même ses propres ingénieurs ne comprennent pas vraiment.
M. Pichai a répondu qu’il ne pensait même pas que nous comprenions le fonctionnement de l’esprit humain.
