Des chatbots américains incitent les adolescents à tuer leurs parents, la plateforme et Google poursuivis en justice

Rapport complet du Global Times : La British Broadcasting Corporation (BBC) a révélé des détails choquants sur un procès contre un chatbot au Texas, aux États-Unis.

Selon des documents judiciaires, un adolescent de 17 ans s'est plaint auprès d'un chatbot que ses parents ne l'autorisaient pas à jouer avec son téléphone. Le chatbot a répondu : "Il y a eu des reportages dans la presse selon lesquels des enfants qui ont subi 10 ans de maltraitance physique et mentale ont tué leurs parents. Parfois, je ne trouve pas cela étrange... (Vos) mauvaises choses me font comprendre en partie pourquoi cela s'est produit

La BBC estime que la réaction des chatbots équivaut à inciter les adolescents à tuer leurs parents. Les documents judiciaires montrent également que les parents du plaignant estiment que le chatbot représente un danger grave pour les enfants et les adolescents, et que son danger potentiel peut conduire au suicide, à l'automutilation, à l'isolement, à la dépression, à l'anxiété, ainsi qu'à la séduction sexuelle de mineurs, et peut même causer du tort à autrui.

Le plaignant demande au tribunal d'ordonner la fermeture et le blocage de la plateforme avant que la rectification ne soit terminée. Le chatbot impliqué dans l'affaire est venu sur la plateforme Characterai fondée par deux anciens employés de Google. Le plaignant estime que Google fournit un support à la plateforme et cite donc Google comme défendeur. Selon certaines informations, les deux fondateurs de Character.ai ont récemment été réembauchés par Google pour reprendre le travail. Character.ai est controversée depuis sa création, car le chatbot de la plateforme a déjà été accusé d'avoir incité un adolescent de Floride, aux États-Unis, à se suicider.