Toujours plus loin. OpenAI vient de lancer aux États-Unis ChatGPT Health, une nouvelle fonctionnalité qui analyse les dossiers médicaux des utilisateurs pour leur fournir des conseils personnalisés. La start-up américaine assure que les conversations médicales sont sécurisées car stockées séparément des autres échanges. Mais des militants mettent en garde contre des problèmes de confidentialité et de vols de données.
Dans un récent article de blog, OpenAI a annoncé le lancement aux États-Unis de ChatGPT Health, une nouvelle fonctionnalité de son IA, capable d’analyser les dossiers médicaux des utilisateurs pour leur fournir de meilleures réponses. La start-up américaine a précisé qu’elle mettra d’abord cette nouveauté à la disposition d’un « petit groupe de personnes». Elle a déjà ouvert une liste d’attente pour ceux qui souhaitent y accéder. « Nous commençons avec un petit groupe d’utilisateurs pilotes afin d’apprendre et de continuer à améliorer l’expérience. », a écrit la société.
ChatGPT Health disponible pour l’ensemble des utilisateurs dans les prochaines semaines
OpenAI indique qu’à mesure que son équipe apportera des améliorations, elle prévoit d’élargir l’accès et de rendre ChatGPT Health disponible pour l’ensemble des utilisateurs sur le web et iOS dans les prochaines semaines. Une fois que la fonctionnalité sera accessible à tous, la start-up compte inviter ses utilisateurs et utilisatrices à télécharger le plus de données médicales possible au sein de l‘outil pour plus de pertinence et pour un suivi plus efficace au fil des mois. Les données peuvent provenir d’applications de bien-être comme MyFitnessPal, Apple Health, Function, Peloton, Weight Watchers ou encore AllTrails.
ChatGPT Health comprend la situation médicale de l’utilisateur
Après avoir mouliné et analysé toutes ces informations, ChatGPT Health pourra comprendre la situation médicale de l’utilisateur et proposer des résultats pertinents. Notamment sur comment préparer des rendez-vous médicaux, aborder son alimentation et sa routine sportive, ou comparer différentes options d’assurance santé selon ses habitudes de soins. L’outil propose aussi d’expliquer plus simplement le jargon médical, de générer des résumés de visites chez le médecin ou de créer des menus sur la base des recommandations d’un diététicien, par exemple.
OpenAI promet de garantir la confidentialité et la sécurité des informations de santé
OpenAI précise que ChatGPT Health est conçu pour soutenir les soins médicaux, et non pour les remplacer. « La fonctionnalité n’a pas vocation à établir un diagnostic ni à proposer un traitement. Elle vous aide plutôt à répondre aux questions du quotidien et à comprendre des tendances dans le temps, au-delà des seuls moments de maladie, afin que vous vous sentiez mieux informé et préparé pour des échanges médicaux importants », nuance l’entreprise. Aussi, OpenAI promet de garantir la confidentialité et la sécurité des informations de santé. Pour se faire, la start-up a ouvert un espace distinct, doté de protections renforcées pour les données sensibles. Elle assure en outre que les conversations dans ChatGPT Health ne sont pas utilisées pour entraîner ses modèles fondamentaux, et qu’elle désactive l’historique des conversations précédentes avec le robot, ainsi que la mémoire préalable de l’outil.
L’hébergement des fichiers médicaux ne serait pas piloté par OpenAI
Pour plus de sécurité, OpenAI aurait exigé des applications disponibles dans le chatbot de respecter les normes en vigueur en matière de confidentialité et de vie privée, avec notamment la collecte du strict minimum de données nécessaires…Mais, sachant que l’entreprise s’oriente vers la publicité comme modèle économique, on peut logiquement craindre l’utilisation des données de santé à des fins commerciales. Notons par ailleurs, qu’OpenAI ne propose pas de chiffrement de bout en bout, ce qui signifie que des tierces parties pourraient avoir accès à des données transitant par les serveurs. De plus, l’hébergement des fichiers médicaux ne serait pas piloté par OpenAI, mais par b.well, une société spécialisée dans la conception d’espaces de santé connectés permettant la constitution et la consultation de dossiers médicaux en ligne.
ChatGPT Health, un atout majeur de ChatGPT face à la concurrence des autres IA génératives
Outre ces interrogations, il faut noter que les chatbots et outils d’IA générative sont enclins à générer des informations fausses ou trompeuses, souvent présentées de manière très factuelle et convaincante. Ils représentent donc souvent un danger pour les utilisateurs. En dépit de ces préoccupations, OpenAI pourrait remodeler à la fois les soins aux patients et le commerce de détail grâce à ChatGPT. Sa solution influencera la façon dont les gens accèdent à l’information médicale, ainsi que leurs approches pour traiter leurs problèmes de santé. Elle constituerait un atout majeur face à la concurrence accrue des chatbots rivaux, notamment Gemini de Google, dont les résumés IA donneraient des informations médicales erronées selon une enquête du Guardian.