Un nouveau brevet de Sony destiné à renforcer la sécurité du PlayStation Network vient de faire son apparition.
Alors que les fabricants de jeux déposent généralement des brevets concernant de nouvelles technologies directement destinées à améliorer l’expérience des joueurs, Sony semble aller au-delà de ce cadre avec sa dernière demande, puisqu’il ne s’agit pas de proposer une nouvelle expérience de jeu mais d’assurer une protection. Sony Interactive Entertainment a déposé la demande de brevet n° 18/314775, dont l’objectif est de protéger les joueurs contre les tricheurs, les prédateurs potentiels visant les enfants et, plus généralement, les individus malveillants grâce à la détection proactive des utilisateurs suspects. Cette nouvelle demande de brevet repose sur l’IA et fonctionne essentiellement comme un système de comptes leurres. Publiée le 13 août, elle vise à détecter les prédateurs potentiels visant les enfants, les escrocs, les spammeurs et les fraudeurs.
« Un pseudo-compte est créé afin d’imiter le comportement de messagerie correspondant aux caractéristiques démographiques d’une victime potentielle, tout en paraissant totalement légitime aux yeux d’un utilisateur antisocial (AS). Cela peut inclure l’imitation du comportement de messagerie de mineurs et la présentation de ce comportement dans les endroits où les utilisateurs AS le recherchent. Le compte AS établit une communication avec le pseudo-compte. Le compte AS peut alors être signalé comme suspect, et le système peut attendre que l’utilisateur AS fasse le premier pas vers un compte légitime avant de le signaler, avant même qu’une communication indésirable ne se produise. Le pseudo-compte peut être contrôlé par un grand modèle de langage (LLM), tel qu’un transformeur génératif préentraîné (GPTT). » indique le résumé.
Pour le dire plus simplement, imaginons ce brevet comme une opération policière d’infiltration, mais dans le cadre d’un jeu en ligne et sous le contrôle d’une IA. L’objectif du brevet n’est pas nécessairement de sanctionner quelqu’un simplement parce qu’il a discuté avec un compte assisté par IA, mais de considérer cette interaction comme un signal indiquant qu’un compte pourrait être dangereux, puis d’avertir ou de protéger les vrais joueurs lorsque ce compte tente de les contacter. Traditionnellement, les entreprises de jeux doivent attendre qu’une personne signale un joueur suspect. Par exemple, un joueur malveillant pourrait contacter un enfant, lui envoyer des messages inappropriés, l’enfant le signalerait ensuite, puis la plateforme enquêterait sur l’affaire.
L’objectif du brevet est d’utiliser l’IA afin de détecter les comportements suspects lorsqu’un utilisateur malveillant s’approche et de signaler le compte, de sorte qu’un avertissement apparaisse lorsque cette personne ou ce joueur tente ensuite d’entrer en contact avec un véritable enfant. Le système est conçu pour analyser la manière dont une personne interagit avec l’IA. Si elle commence à adopter un comportement suspect, le système le signale en interne. Parmi les comportements suspects figurent les tentatives de déplacer la conversation vers une plateforme privée, les demandes d’informations personnelles, les tentatives de contacter une personne semblant mineure, l’envoi de messages inappropriés, les tentatives de tromper le compte, l’envoi de spam ainsi que les comportements associés à la fraude. Le système ne suspend pas immédiatement le compte, mais continue à le surveiller. Même si le document mentionne explicitement les mineurs et les enfants susceptibles de devenir des victimes, le système pourrait également être appliqué plus largement aux spammeurs, aux escrocs, aux tricheurs dans les jeux et à d’autres utilisateurs antisociaux.
Gardons à l’esprit que, comme pour tous les brevets, toutes les idées déposées ne deviennent pas nécessairement réalité. Les entreprises brevetent souvent des concepts qu’elles ne commercialiseront jamais. Cela signifie simplement que Sony étudie actuellement cette idée.
Source : MP1st
