Une fixation machine contre médecins masque des questions importantes sur l'intelligence artificielle

intelligence artificielleLa prochaine fois que vous irez chez le médecin, n'oubliez pas d'apporter votre carte génomique.

Quoi, vous n'en avez pas?

Bien sûr que non. Les cartes de la taille d'un portefeuille contenant le code génétique d'une personne n'existent pas.

Pourtant, ils ont été envisagés dans un Article du Los Angeles Times de 1996, qui prédit que d'ici 2020, la composition du génome d'une personne orientera ses soins médicaux.

Cette idée qu'aujourd'hui nous nous prélasserions dans les fruits de la médecine ultra-personnalisée a été avancée par des scientifiques qui faisaient la promotion du Projet du génome humain – un effort de recherche international massif et financé par l'État.

Les scientifiques ont sciemment surestimé les avantages médicaux du séquençage du génome humain, et les journalistes ont accepté le récit, selon Ari Berkowitz, professeur de biologie à l'Université d'Oklahoma, qui écrit sur le battage médiatique autour du séquençage du génome dans le numéro de décembre du Journal of Neurogenetics.

Il a souligné « des incitations pour les biologistes et les journalistes à raconter des histoires simples, y compris l'idée d'une causalité génétique relativement simple d'une maladie débilitante commune. »

Dernièrement, l'attrait d'une histoire simple fait obstacle à la compréhension du public d'une autre technologie qui a attiré l'attention à la suite du boom des données génétiques: l'intelligence artificielle (IA).

Avec l'IA, les gros titres se concentrent souvent sur la capacité des machines à «battre» les médecins lorsqu'ils découvrent une maladie. Prenez la couverture d'une étude publiée ce mois-ci sur un algorithme de Google pour la lecture des mammographies:

CNBC: DeepMind A.I. de Google bat les médecins dans un essai de dépistage du cancer du sein

ABC: Un ordinateur alimenté par l'IA a surpassé les humains détectant le cancer du sein dans les mammographies: étude

HealthDay: L'IA bat les humains en repérant les tumeurs du sein

Temps: Les meilleurs médecins de l'IA de Google pour détecter le cancer du sein dans les mammographies

Le motif humain contre machine est enraciné dans les matchs d'échecs gimmicky Deep Blue contre Garry Kasparov d'IBM des années 1990 et le match contre Watson en 2011 contre deux « Jeopardy! » champions.

Mais les soins de santé ne sont pas un jeu. Certains experts souhaitent que les organisations de presse cessent de cadrer les histoires de l'IA de cette façon.

Les titres qui suggèrent que les machines sont en concurrence avec les médecins sont « juste stupides », a déclaré le cardiologue Eric Topol, vice-président exécutif de Scripps Research à La Jolla, en Californie. « Il ne s'agit ni de l'un ni de l'autre. Je veux dire, vous n'allez pas laisser des diagnostics critiques sans surveillance. « 

Hugh Harvey, radiologue et directeur général de la société de conseil numérique Hardian Health, a convenu que les titres devraient être «rédigés avec plus de soin» et que des mises en garde devraient apparaître au moins dans le premier paragraphe d'une histoire. «Il y a une éthique, je pense. En tant que journaliste, vous voulez dire la vérité, pas seulement les aspects positifs des choses. »

Questions qui n'ont pas été explorées

Comme l'ont souligné certains commentateurs sur Twitter, l'étude de Google était basée sur la capacité du logiciel à détecter des cancers sur des mammographies qui avaient déjà été identifiées par un radiologue et biopsiées. Il ne mesurait pas si la machine pouvait atteindre un objectif important – aider les médecins à faire la distinction entre les lésions qui bénéficieraient d'un traitement et celles qui n'en bénéficieraient pas.

L'article de Christie Aschwanden dans Wired, Artificial Intelligence Rends Bad Medicine encore pire, a déclaré que l'IA a «le potentiel d'aggraver des problèmes préexistants tels que les surestimations, les diagnostics excessifs et les traitements excessifs».

Mais ce point n’est pas entré dans la plupart des reportages.

Bien que HealthDay et ABC aient inclus des mises en garde dans leurs histoires et aient souligné la nécessité d'une étude plus approfondie, CNBC et Time ne l'ont pas fait. Un média, Vox, a tempéré le battage médiatique dans son titre: L'IA peut désormais surpasser les médecins pour détecter le cancer du sein. Voici pourquoi il ne les remplacera pas. Vox comprenait de nombreuses mises en garde et avertissements, mais ils arrivaient presque à la fin.

De plus, aucun de ces médias n'a exploré le coût financier potentiel de la mise en œuvre d'un produit d'IA pour la détection du cancer du sein.

La rhétorique des machines prenant le relais

La rhétorique des machines remplaçant les radiologues a été fomentée non pas par des experts médicaux mais par le secteur technologique. Le co-fondateur de Sun Microsystems, Vinod Khosla, a affirmé en 2012 que les machines remplacera les médecins. Geoffrey Hinton, professeur d'informatique et expert en IA, déclaré en 2016 qu'il était «tout à fait évident que nous devrions cesser de former des radiologues».

Cette idée a peut-être stimulé les investisseurs, mais pourrait finalement blesser les patients. Au moins anecdotique, a déclaré Harvey, certains jeunes médecins évitent le domaine de la radiologie au Royaume-Uni, où il y a une pénurie.

Harvey a gloussé lors d'un discours à la Radiological Society of North American en décembre lorsqu'il a présenté une diapositive montrant que si environ 400 entreprises d'IA ont vu le jour au cours des cinq dernières années, le nombre de radiologues qui ont perdu leur emploi est nul.

(Couru moyen Explication provocante de Harvey pourquoi les radiologues ne seront pas facilement repoussés par les ordinateurs.)

Quelle est la qualité des preuves?

La fixation homme contre machine détourne l'attention de la question de savoir si l'IA bénéficiera aux patients ou fera des économies.

Nous avons souvent écrit sur les pièges des rapports sur les médicaments qui n'ont été étudiés que chez la souris. Pourtant, certains reportages n'indiquent pas quand une application d'IA n'a pas encore été testée dans des conditions réelles lors d'essais cliniques randomisés. Presque toujours, la capacité «d'apprentissage en profondeur» d'un ordinateur est formée et testée sur des ensembles de données nettoyés qui ne prédisent pas nécessairement comment ils fonctionneront chez les patients réels.

Harvey a déclaré qu'il y avait un inconvénient aux titres « surestimant les capacités de la technologie avant qu'elle ne soit prouvée. »

«Je pense que les patients qui lisent ces trucs peuvent devenir confus. Ils pensent que si l'IA est si bonne, pourquoi ne puis-je pas l'obtenir maintenant? Ils pourraient se demander si un médecin est bon. »

Il existe également le risque à long terme de rendre le public sceptique quant à la technologie. «Cela décourage les gens. Ils n'apprécient pas que cela puisse être utile », a déclaré Saurabh Jha, MD, professeur agrégé de radiologie à l'hôpital de l'Université de Pennsylvanie.

La faiblesse des preuves de l'IA a été mise en évidence dans certains reportages, tels que L'histoire de Liz Szabo sur Kaiser Health News, Un test de réalité sur l'intelligence artificielle: les demandes de soins de santé sont-elles. Dans Undark, Jeremy Hsu signalé le manque de preuves pour une application de tri, Babylon Health.

Détourner l'attention des vrais problèmes des soins de santé

Harvey a déclaré que les journalistes doivent également souligner «la réalité de ce qu'il faut pour le mettre sur le marché et entre les mains des utilisateurs finaux».

Il cite le dépistage du cancer du poumon, pour lequel certaines histoires couvrent «la qualité de l'algorithme pour détecter les cancers du poumon et pas grand-chose d'autre». Par exemple, une histoire parue dans le New York Post (titre: « La nouvelle IA de Google est plus efficace pour détecter le cancer du poumon que les médecins ») A déclaré que «L'IA se révèle être un outil incroyable pour améliorer la vie »sans présenter aucune preuve.

« Ce dont (une telle couverture) ne parle pas, c'est du changement dans les voies de dépistage pulmonaire qui devrait être mis en œuvre dans de vastes populations géographiques », a déclaré Harvey. «Pour qu'une personne puisse se présenter à un dépistage pulmonaire, elle doit savoir que le dépistage est disponible. Ils doivent être vérifiés pour s'assurer qu'ils sont appropriés pour le processus de sélection. Ils doivent avoir des infirmières de soutien lorsque des cancers sont détectés et ils doivent avoir accès à des voies de traitement. Ce n'est pas seulement «je peux trouver un cancer du poumon». »

UNE JAMA éditorial par les médecins Robert Wachter et Ezekiel Emanuel a jeté de l'eau froide sur l'idée qu'une meilleure analyse transformera les soins de santé. Ils ont plutôt dit: une «focalisation étroite sur les données et les analyses détournera le système de santé» des étapes pour changer la «structure, la culture et les incitations» qui régissent le comportement des médecins et des patients.

Par exemple, bien qu'il puisse sembler «logique» pour l'IA de prédire quels patients vont sauter leurs médicaments, il est peu probable qu'ils règlent le problème, écrivent-ils. «La médecine doit changer la façon dont les médecins et les autres cliniciens interagissent avec les patients non adhérents et changer les habitudes de prise de médicaments des patients.»

Les journalistes doivent être éduqués

Dans les années 90, écrivait Berkowitz, les scientifiques ont compris que les maladies peuvent rarement être attribuées à un gène, voire à un groupe de gènes. Pourtant, ce fait n'a pas informé la couverture des nouvelles en vigueur.

Nous avons souvent évoqué la nécessité pour les journalistes de puiser dans des sources indépendantes lorsqu'ils rendent compte des interventions médicales. Berkowitz a déclaré que les journalistes feraient également bien de s'appuyer sur la science sous-jacente.

« Cela peut impliquer la lecture d'articles de revue de journal ainsi que la lecture attentive d'articles de recherche originaux annonçant de nouvelles découvertes passionnantes », a-t-il déclaré. « Je sais que ce n'est pas une réponse satisfaisante, en particulier parce que les journalistes sont souvent confrontés à une date limite et n'ont tout simplement pas le temps ou les connaissances scientifiques, mais je ne vois pas de meilleure façon. »

Vous pourriez également aimer...