Die Forscher machen transformierende AI scheinen ‚unauffällig‘: AI muss unauffällig sein akzeptiert zu werden als Teil der klinischen Entscheidungsfindung

Die Forscher machen transformierende AI scheinen 'unauffällig': AI muss unauffällig sein akzeptiert zu werden als Teil der klinischen Entscheidungsfindung

Ärzte, die Leben-und-Tod-Entscheidungen über Organtransplantationen, Krebs-Behandlungen oder Herzoperationen in der Regel nicht viele Gedanken darüber, wie künstliche Intelligenz könnte Ihnen helfen. Und das ist, wie Forscher an der Carnegie Mellon University sagen klinischen AI-tools entwickelt werden sollten — so die ärzte nicht brauchen, um über Sie denken.

Ein Chirurg könnte nie das Gefühl, der Notwendigkeit zu Fragen, eine KI für die Beratung, die viel weniger erlauben es, um eine klinische Entscheidung für Sie, sagte John Zimmerman, der Tang-Familie, Professor für Künstliche Intelligenz und Mensch-Computer-Interaktion in den CMU ‚ s Human-Computer Interaction Institute (HCII). Aber eine KI kann als Leitfaden bei Entscheidungen, wenn es eingebettet ist in die Entscheidungs-Routinen bereits von den medizinischen Teams, die Bereitstellung von AI-generierten Vorhersagen und Auswertungen als Teil der Gesamt-mix von Informationen.

Zimmerman und seine Kollegen nennen diesen Ansatz „Unauffällig AI.“

„Die Idee ist, dass die KI sollte unauffällig in dem Sinne, dass Sie nicht haben, um darüber nachzudenken und es nicht in der Art und Weise,“ Zimmerman sagte. „Strom ist völlig unauffällig, bis Sie es nicht haben.“

Qian Yang, ein Ph. D.-student in HCII, wird die Adresse wie den Unauffälligen KI-Ansatz geführt das design einer klinischen decision support tool (DST) bei CHI-2019, die Association for Computing Machinery Conference on Human Factors in Computing Systems, Kann 4-9 in Glasgow, Schottland.

Yang, zusammen mit Zimmermann und Aaron Steinfeld, associate research professor im HCII-und die Robotik-Institute, arbeiten mit biomedizinischen Forscher an der Cornell University und den CMU ‚ s Language Technologies Institute auf eine Sommerzeit zu helfen, ärzte zu bewerten Herz-Patienten für die Behandlung mit einem ventrikulären assist device (VAD). Dieser implantierbare Pumpe aids erkrankten Herzen bei Patienten, die nicht empfangen kann, Herztransplantationen, aber viele Empfänger sterben kurz nach der Implantation. Der DST unter Entwicklung nutzt machine-learning-Verfahren zu analysieren, die Tausende von Fällen, und berechnen einer Wahrscheinlichkeit, ob ein Individuum von nutzen sein könnten.

DSTs wurden entwickelt, um die diagnose oder Behandlung plan für eine Reihe von Erkrankungen und chirurgische Eingriffe, aber die meisten scheitern, um den übergang vom Labor in die klinische Praxis und in Vergessenheit fallen.

„Sie gehen alle davon aus Sie wissen, Sie brauchen Hilfe,“ Zimmerman sagte. Sie stehen oft auf Widerstand von ärzten, von denen viele nicht denken, Sie brauchen Hilfe, oder sehen Sie sich die DST als Technologie entwickelt, um Sie zu ersetzen.

Yang verwendet, die Unauffällig KI-Prinzipien zu entwerfen, wie das klinische team würde die Interaktion mit der Sommerzeit-für herzunterstützungssysteme. Zu diesen teams gehören mid-level Kliniker, wie Krankenschwester Praktiker, Sozialarbeiter und VAD-Koordinatoren, die routinemäßig Computer; und die Chirurgen und Kardiologen, die Wert auf Ihre Kollegen beraten über rechnerische Unterstützung.

Die Natürliche Zeit zu übernehmen DST Prognostik ist während des interdisziplinären Patienten-Bewertung treffen, Yang sagte. Obwohl die ärzte machen, die endgültige Entscheidung darüber, Wann oder wenn die Implantation eines VAD, das ganze team ist oft bei diesen treffen und Computern verwendet werden.

Ihr design beinhaltet automatisch die Sommerzeit-Prognostik in den Folien vorbereitet für jeden Patienten. In den meisten Fällen, die DST-Daten werden nicht signifikant sein, Steinfeld vorgeschlagen, aber für bestimmte Patienten oder an bestimmten kritischen Punkten für jeden Patienten, die Sommerzeit könnte Informationen liefern, die verlangt Aufmerksamkeit.

Wenn die Sommerzeit sich noch in der Entwicklung, die Forscher getestet, interaction design an drei Krankenhäusern, die Sie durchführen, VAD Chirurgie, mit DST-verstärkte Folien präsentiert für die simulationspatienten.

„Die mid-Level — support — liebte diese,“ Yang sagte, weil es verbessert Ihre Eingabe und half Ihnen, sich aktiver in die Diskussion. Arzt Reaktion war weniger begeistert, reflektieren die Skepsis über die DSTs und die überzeugung, dass es unmöglich war, um die völlig zu bewerten, die Interaktion ohne ein voll funktionierendes system und echten Patienten.

Aber Yang sagte, die ärzte haben nicht angezeigt, die gleiche Abwehrhaltung und Gefühle ersetzt durch Technologie, die typischerweise mit DSTs. Sie bestätigten auch, dass die Sommerzeit informieren, Ihre Entscheidungen.

„Vor-Systeme waren alle von Ihnen sagen, was Sie tun,“ Zimmerman sagte. „Wir sind nicht zu ersetzen menschliche Urteil. Wir möchten gerne den Menschen unmenschliche Fähigkeiten.“

„Und dazu müssen wir pflegen den menschlichen Entscheidungsprozess,“ Steinfeld Hinzugefügt.

Das Nationale Herz, der Lungenflügel und das Blut-Institut und die CMU-Zentrum für maschinelles Lernen und Gesundheit unterstützt diese Forschung.