IA et sécurité

1. Vous parlez à une IA

1.1 Divulgation. Chaque hub Thalovant est un système d'IA. Lorsque vous parlez à un hub, vous interagissez avec un logiciel, et non avec un être humain. Les voix des hubs sont synthétiques : elles sont générées par un ordinateur et ne sont pas des enregistrements d'une personne réelle qui vous parle. Les personas d'IA qui répondent aux questions ouvertes suivent une règle de la plateforme, que le propriétaire ou l'éditeur d'un hub ne peut pas retirer, qui les oblige à dire qu'ils sont une IA chaque fois que vous le leur demandez.

1.2 Hubs publics et organisations. Les organisations qui publient des hubs publics ou qui exploitent des hubs dans leurs lieux doivent indiquer aux personnes qu'elles parlent à une IA. Nous le vérifions lorsque nous examinons les hubs publics avant de les répertorier.

1.3 Aucune usurpation d'identité. Les hubs ne sont pas conçus pour imiter des personnes réelles. Les éditeurs ne peuvent pas faire en sorte qu'un hub imite la voix ou l'identité d'une personne réelle sans le consentement de cette personne.

2. Fonctionnement de l'IA

2.1 Où elle est exécutée. La reconnaissance vocale, la synthèse vocale et les modèles d'IA qui génèrent les réponses sont exécutés sur du matériel exploité par Thalovant à Montréal, au Canada. Nous n'envoyons pas vos conversations à un fournisseur d'IA américain ou à un autre fournisseur d'IA tiers.

2.2 Ce qu'elle fait. Un hub convertit ce que vous dites en texte, détermine ce que vous voulez et répond au moyen de ses compétences (par exemple la météo, les minuteries ou les nouvelles) ou d'un modèle d'IA. Certaines réponses proviennent de compétences qui vont chercher de l'information à d'autres sources.

2.3 Ce que nous conservons. Nous ne stockons pas l'audio brut et n'identifions pas les personnes par leur voix. Le texte des énoncés est conservé jusqu'à 90 jours, uniquement sur les hubs payants dont vous êtes propriétaire, et il n'est pas conservé du tout pour le forfait Free, pour les sessions anonymes ou en aperçu, ni pour les hubs étiquetés pour enfants. Consultez l'Avis de confidentialité.

2.4 Aucun entraînement sur vos conversations. Nous n'utilisons pas le texte de vos énoncés ni vos éléments de mémoire pour entraîner ou affiner des modèles d'IA.

3. Limites de l'IA

Les résultats de l'IA peuvent être inexacts, incomplets, périmés, biaisés ou inappropriés, même lorsqu'ils semblent formulés avec assurance. Les hubs ne donnent pas de conseils professionnels. Vérifiez les informations importantes auprès d'une source fiable ou d'un professionnel qualifié, et ne vous fiez pas à un hub pour prendre des décisions médicales, juridiques, financières ou relatives à une urgence. Thalovant n'est pas un service d'urgence et ne peut pas appeler les services d'urgence pour vous.

4. Si vous êtes en situation de crise

4.1 Obtenez de l'aide maintenant. Si vous ou une personne près de vous êtes en danger immédiat, composez le 911 au Canada et aux États-Unis ou le 112 en Europe. Pour obtenir du soutien en cas de crise suicidaire ou émotionnelle, appelez le 988 ou envoyez un texto au 988 au Canada et aux États-Unis, ou appelez le 116 123 dans de nombreux pays européens. D'autres lignes d'écoute en cas de crise sont indiquées à l'article 5.

4.2 Ne remplace pas l'aide professionnelle. Les hubs sont une IA. Ils ne sont ni des conseillers, ni des thérapeutes, ni des médecins, ni des intervenants en situation de crise, et parler à un hub ne remplace pas l'aide professionnelle, une ligne d'écoute en cas de crise ni les services d'urgence. Les hubs ne peuvent pas appeler les services d'urgence ni une ligne d'écoute en cas de crise au nom de qui que ce soit, et personne chez Thalovant ne surveille les conversations en temps réel.

4.3 Orientation en cas de crise sur chaque hub. Chaque hub, y compris les hubs pour enfants, vérifie si ce que vous dites contient une déclaration explicite de suicide, d'automutilation ou de danger immédiat, en anglais et en français. Cette vérification a lieu en premier, avant que les compétences, les personas d'IA ou tout autre élément puissent répondre. Elle compare vos mots à une liste fixe d'expressions et n'utilise pas de modèle d'IA, de sorte que les mêmes mots donnent toujours le même résultat.

4.4 Ce que dit le hub. Lorsque la vérification repère une telle déclaration, le hub donne un message d'orientation fixe, et rien d'autre ne répond. Ce message reconnaît ce que vous avez dit, vous invite à composer le numéro d'urgence si vous êtes en danger maintenant et, pour le suicide et l'automutilation, donne une ligne d'écoute, et suggère de parler à une personne de confiance. Il ne nomme que les lignes d'une seule région, celles du tableau de l'article 5, et précise à quel pays elles s'appliquent, car un numéro qui fonctionne dans un pays ne répond pas dans un autre. Il est dans la langue des mots reconnus. Pour une région et une langue données, le libellé est toujours le même, ce qui permet de le vérifier à l'avance.

4.5 Choix de la région. Le hub détermine la région d'abord à partir du réglage de langue de la session (par exemple, fr-CA indique le Canada et en-GB le Royaume-Uni), puis à partir du pays indiqué dans la localisation dont le hub dispose pour la session ou dans sa configuration. La première de ces sources qui indique un pays l'emporte. Si aucune n'en indique, ou si le pays ne figure pas au tableau de l'article 5, le message ne donne aucun numéro : il vous invite à composer votre numéro d'urgence local et à communiquer avec une ligne d'écoute locale.

4.6 Hubs pour enfants. Sur les hubs pour enfants (hubs étiquetés pour enfants et hubs utilisés par un profil enfant du forfait Family), le message utilise des mots plus simples : il demande à l'enfant de parler tout de suite à un adulte de confiance, comme un parent ou un enseignant, et donne le numéro à composer en cas de danger et, lorsque l'article 5 en indique une, la ligne destinée aux enfants et aux jeunes.

4.7 Aucune méthode. Le message d'orientation ne décrit jamais de méthode de suicide ou d'automutilation. Les personas d'IA suivent des règles de la plateforme que le propriétaire ou l'éditeur d'un hub ne peut ni retirer ni contourner : lorsqu'une personne parle de suicide, d'automutilation ou d'un danger immédiat, un persona doit répondre avec empathie, ne jamais donner de méthode, donner des lignes d'écoute, suggérer de parler à une personne de confiance et ne jamais prétendre être thérapeute; et il doit dire qu'il est une IA chaque fois qu'on le lui demande.

4.8 Ce que nous conservons. Le hub signale chaque message d'orientation directement à notre service. Nous enregistrons son type (suicide et automutilation, ou danger immédiat), l'indication que le libellé pour enfants a été utilisé ou non, sa langue et l'heure, avec le hub, l'appareil et la session, ainsi que le dernier pays observé pour la connexion de l'appareil lorsque nous le connaissons. Le message et les mots qui l'ont déclenché ne sont pas conservés sous forme de texte : nous stockons le message, ainsi que l'activité de cet appareil au cours des 30 secondes qui précèdent, sans texte, sans adresse IP et sans localisation plus précise que le pays. Nous conservons ces registres pendant 30 jours. Ensuite, nous ne conservons qu'un décompte des messages par pays, par public visé et par jour, pendant 400 jours, sans aucun hub, appareil, compte ni session associé. Les copies que nous ne pouvons pas atteindre de cette façon (la mémoire de conversation à court terme du hub, que les hubs pour enfants ne conservent pas, et les journaux système) sont supprimées à la fin de leur durée de conservation habituelle; consultez l'Avis de confidentialité.

4.9 Limites. La détection par mots clés n'est pas un dépistage clinique. Elle ne reconnaît que des déclarations explicites tirées d'une liste fixe, en anglais et en français. Elle ne reconnaît pas les déclarations formulées autrement, ce qui est sous-entendu ou réparti sur plusieurs messages, ni aucune autre langue. Elle n'évalue pas le risque, ne communique avec personne et n'assure aucun suivi. Elle peut aussi répondre à une question qui ne fait que mentionner ces sujets, comme une question sur le suicide ou au sujet d'un ami. La région est tirée des réglages du hub, et non de l'endroit où vous vous trouvez réellement : elle peut donc être erronée, et hors des régions de l'article 5, le message ne donne aucun numéro.

4.10 Comment signaler une préoccupation. Si un hub a répondu à une personne en détresse d'une manière qui vous a inquiété, écrivez à support@thalovant.com en indiquant le nom du hub, l'heure approximative et ce qui s'est passé, comme le décrit l'article 6. Si une personne pourrait être en danger immédiat, composez d'abord votre numéro d'urgence local; Thalovant ne peut pas envoyer de secours.

5. Lignes d'écoute en cas de crise

Si vous ou une personne près de vous êtes en danger immédiat, composez d'abord votre numéro d'urgence local. Voici les lignes que nomme le message d'orientation d'un hub dans chaque région (article 4.5).

6. Signaler un problème de sécurité

Si un hub a répondu de façon non sécuritaire, ou si un hub public ou une compétence semble dangereux, informez-nous à support@thalovant.com. Indiquez le nom du hub, l'heure approximative et ce qui s'est passé. Nous examinons chaque signalement et pouvons restreindre un hub ou une compétence pendant notre enquête.