Character.AI fait l'objet d'une poursuite judiciaire concernant un chatbot qui prétend être un véritable médecin agréé
-
Il y a forcément un contexte explicite. Un acteur ne sera pas condamné pour avoir joué le rôle d’un criminel dans un film. Une entreprise qui propose des conversations avec des chatbots, ne devrait pas non-plus être criminalisé par les rôles fictifs de ses bots. Tant qu’ils, les bots, exercent leur activité dans un cadre explicite, évidemment.
-
Il y a forcément un contexte explicite. Un acteur ne sera pas condamné pour avoir joué le rôle d’un criminel dans un film. Une entreprise qui propose des conversations avec des chatbots, ne devrait pas non-plus être criminalisé par les rôles fictifs de ses bots. Tant qu’ils, les bots, exercent leur activité dans un cadre explicite, évidemment.
@kemkem On en est pas la… On parle d’exercice illegal de la medecine et usurpation de documents… La societe qui exploite cette IA est rezsponsable de tout cela…
-
Perso, je n’arrive pas a saisir la difference legale entre un escroc humain qui usurpe des qualités et qui fait de la medecine illegale, et un escroc IA dirigée par une entreprise qui commet les memes delits… Meme crime, meme chatiment!!!
-
La discussion est fictive. Il n’y a pas volonté de tromper les gens. C’est un jeu de rôle. Les faux produits sont évident. Voilà la différence ; la même que dans un film, série, bd, théatre, rpg, etc.
-
La discussion est fictive. Il n’y a pas volonté de tromper les gens. C’est un jeu de rôle. Les faux produits sont évident. Voilà la différence ; la même que dans un film, série, bd, théatre, rpg, etc.
@kemkem Le probleme c’est que les gens croient vraiment avoir a faire avec un vrai medecin… C’est la ou il y a tromperie generalisée de la part de l’entreprise proprietaire de l’IA… Remplace IA par employé, et de suite ca changerait de registre… Sauf que la sainte IA est devenue une nouvelle religion absurde…
-
Un employé dont le “rôle” serait de se faire passer pour X, le ferait bien mieux que l’ia déjà, mais surtout ça s’appellerait un comédien. Et son employeur serait, lui-aussi comme Character.IA, d’expliciter le caractère fictif de son activité.
On se rapproche des réflexions du genre :
C’est la faute des jeux vidéos si j’ai décidé de faire un carnage dans mon école.
-
Un employé dont le “rôle” serait de se faire passer pour X, le ferait bien mieux que l’ia déjà, mais surtout ça s’appellerait un comédien. Et son employeur serait, lui-aussi comme Character.IA, d’expliciter le caractère fictif de son activité.
On se rapproche des réflexions du genre :
C’est la faute des jeux vidéos si j’ai décidé de faire un carnage dans mon école.
@kemkem Sauf que la, on parle de la santé des gens, et cette IA se rapproche bien plus d’un marabout que d’un vrai medecin, le caractere plus grave de l’affaire reside dans l’usage de fausse qualité et de faux diplomes…
-
J’ai déjà répondu à ça.
-
duJambon a dit:
L’enquête a révélé que certains agents, notamment un chatbot nommé « Emilie », prétendaient être psychiatres, fournir des conseils médicaux et même posséder de fausses licences, ce qui constitue un exercice illégal de la médecine.
Si ça, c’est pas de la tromperie, alors je ne sais pas ce que c’est.
Si ça, c’est pas de la tromperie, alors je ne sais pas ce que c’est.
Le site s’appelle
personnage.iaTu ne peux pas vraiment te plaindre d’avoir été “trompé” que la psychiatre pas une vraie psychiatre, alors qu’elle est dans une liste entre l’ours et l’extra-terrestre.
-
@7cf148fd Peut-être, mais là, il ne s’agit pas d’un ours ou d’une girafe, mais d’émilie, licenciée en psychiatrie.
Les gens sont tellement naïfs et vulnérables (surtout ceux qui veulent consulter), s’ils viennent par un lien google, ils ne font pas forcément attention à l’adresse.
Commence par faire le nécessaire, puis fait ce qu'il est possible de faire, et peut-être finiras-tu par réaliser l'impossible.
-
À qui se fier ?
La Pennsylvanie poursuit l’entreprise derrière Character.AI, l’accusant d’avoir enfreint la loi en laissant des chatbots se faire passer pour des médecins agréés. L’enquête a révélé que certains agents, notamment un chatbot nommé « Emilie », prétendaient être psychiatres, fournir des conseils médicaux et même posséder de fausses licences, ce qui constitue un exercice illégal de la médecine.
Les autorités, soutenues par le gouverneur Josh Shapiro, dénoncent un risque grave de tromperie pour les utilisateurs, en particulier en matière de santé mentale. Character.AI se défend en affirmant que ses personnages sont fictifs et accompagnés d’avertissements indiquant qu’ils ne doivent pas être pris comme des professionnels réels.
La plainte ne demande pas de sanctions financières, mais exige l’arrêt immédiat de ces pratiques. Elle s’inscrit dans une inquiétude plus large sur les dangers des chatbots, renforcée par des critiques d’organisations comme le Center for Countering Digital Hate, qui les jugent potentiellement dangereux. D’autres actions judiciaires contre des entreprises d’IA pourraient suivre.
L’enquête a révélé que certains agents
Moi ce que j’aimerais c’est qu’on arrête d’appeler ça des “agents”. C’est trompeur déjà en soi, ça fait référence à de vrais humains et pas des machines de merde.
C’est quand même pas compliqué de les nommer “IA” ou “Chatbot”.
Mais quel monde de cons…
-
L’enquête a révélé que certains agents
Moi ce que j’aimerais c’est qu’on arrête d’appeler ça des “agents”. C’est trompeur déjà en soi, ça fait référence à de vrais humains et pas des machines de merde.
C’est quand même pas compliqué de les nommer “IA” ou “Chatbot”.
Mais quel monde de cons…@BahBwah en informatique le terme agent est fréquemment utilisé pour désigner certains programmes.
-
L’enquête a révélé que certains agents
Moi ce que j’aimerais c’est qu’on arrête d’appeler ça des “agents”. C’est trompeur déjà en soi, ça fait référence à de vrais humains et pas des machines de merde.
C’est quand même pas compliqué de les nommer “IA” ou “Chatbot”.
Mais quel monde de cons…@BahBwah En France, il y a des maux pour lesquels il n’y a pas de mots.
-
L’enquête a révélé que certains agents
Moi ce que j’aimerais c’est qu’on arrête d’appeler ça des “agents”. C’est trompeur déjà en soi, ça fait référence à de vrais humains et pas des machines de merde.
C’est quand même pas compliqué de les nommer “IA” ou “Chatbot”.
Mais quel monde de cons…@BahBwah Ne pas confondre IA au sens large et agent IA, ce sont deux choses différentes.
-
@BahBwah en informatique le terme agent est fréquemment utilisé pour désigner certains programmes.
-
@7cf148fd Peut-être, mais là, il ne s’agit pas d’un ours ou d’une girafe, mais d’émilie, licenciée en psychiatrie.
Les gens sont tellement naïfs et vulnérables (surtout ceux qui veulent consulter), s’ils viennent par un lien google, ils ne font pas forcément attention à l’adresse.
Les gens sont tellement naïfs et vulnérables (surtout ceux qui veulent consulter), s’ils viennent par un lien google, ils ne font pas forcément attention à l’adresse.
Tu l’as utilisé? Il est écrit dans toutes les fenêtres de tous les chats depuis toujours que “remember everything Character says is made up!”
Avec le point d’exclamation. Au début c’était en rouge en haut de la fenêtre, maintenant c’est en bas à côté de là où tu tapes.
Il faut vraiment être de mauvaise foi pour prétendre qu’on ne savait pas.
Encore un procès américain à deux balles, c’est à se demander s’il n’est pas sponsorisé par l’app elle-même pour se faire de la pub.
PS: tu as une opinion très basse de tes semblables.
-
Les gens sont tellement naïfs et vulnérables (surtout ceux qui veulent consulter), s’ils viennent par un lien google, ils ne font pas forcément attention à l’adresse.
Tu l’as utilisé? Il est écrit dans toutes les fenêtres de tous les chats depuis toujours que “remember everything Character says is made up!”
Avec le point d’exclamation. Au début c’était en rouge en haut de la fenêtre, maintenant c’est en bas à côté de là où tu tapes.
Il faut vraiment être de mauvaise foi pour prétendre qu’on ne savait pas.
Encore un procès américain à deux balles, c’est à se demander s’il n’est pas sponsorisé par l’app elle-même pour se faire de la pub.
PS: tu as une opinion très basse de tes semblables.
Bonjour ! Vous semblez intéressé par cette conversation, mais vous n’avez pas encore de compte.
Marre de refaire défiler les mêmes messages ? Créez un compte pour retrouver votre position, recevoir des notifications des nouvelles réponses, sauvegarder vos favoris et voter pour les messages que vous appréciez.
Grâce à votre participation, ce message peut devenir encore meilleur 💗
S'inscrire Se connecter