TECH ACTUS – Shodan et GLaDOS pourraient exister dans le futur ; l’ONU nous alerte.
Ils ont fourni un rapport ici. Dans ce rapport, l’ONU appelle à un moratoire sur les systèmes d’intelligence artificielle “qui présentent un risque sérieux pour les droits de l’homme” jusqu’à ce que des recherches et une réglementation aient été effectuées. Le rapport fait suite à des inquiétudes selon lesquelles des pays et des entreprises adoptent l’IA sans faire preuve de la diligence requise. Michelle Bachelet, haut-commissaire des Nations unies aux droits de l’homme, a écrit que l’intelligence artificielle peut être une “force du bien”, soulignant qu’elle peut néanmoins avoir un effet profondément négatif, “voire catastrophique”, si elle est utilisée sans considération.
Le rapport analyse comment l’intelligence artificielle peut affecter les droits de l’homme (vie privée, santé, éducation et liberté de mouvement, d’expression et de réunion). “L’intelligence artificielle s’immisce désormais dans presque tous les recoins de notre vie physique et mentale, et même dans nos états émotionnels. Les systèmes d’IA sont utilisés pour déterminer qui bénéficie des services publics, décider qui a une chance d’être recruté pour un emploi, et bien sûr, ils affectent les informations que les gens voient et peuvent partager en ligne”, a écrit Mme Bachelet.
Le rapport mentionne que “l’une des questions les plus urgentes auxquelles nous sommes confrontés en matière de droits de l’homme” est la manière dont l’IA collecte, stocke et utilise les données alors qu’elle connaît une croissance rapide. “Le risque de discrimination lié aux décisions prises par l’IA – des décisions qui peuvent changer, définir ou endommager des vies humaines – n’est que trop réel. C’est pourquoi il faut une évaluation et un suivi systématiques des effets des systèmes d’IA afin d’identifier et d’atténuer les risques pour les droits de l’homme”, a ajouté Mme Bachelet.
Les Nations unies demandent aux entreprises et aux pays qui développent et utilisent des systèmes d’IA de faire preuve de beaucoup plus de transparence. Cela ne signifie pas une interdiction. Elle demande seulement une réglementation et une plus grande transparence. “Nous ne pouvons pas nous permettre de continuer à rattraper le retard en matière d’IA – en autorisant son utilisation avec des limites ou une surveillance limitées ou inexistantes, et en gérant les conséquences presque inévitables sur les droits de l’homme après coup. Le pouvoir de l’IA de servir les gens est indéniable, mais la capacité de l’IA à alimenter les violations des droits de l’homme à une échelle énorme et pratiquement sans visibilité l’est tout autant. Il faut agir maintenant pour mettre des garde-fous en matière de droits de l’homme sur l’utilisation de l’IA, pour le bien de tous nous“, a écrit Mme Bachelet.
Ce n’est peut-être pas l’idée la plus brillante de lier cette chanson ici.
Source : PCGamer
