KI-Antwortmaschine für Ärzte und Patienten

Lösung

Itransition implementierte einen PoC einer Webanwendung, die mit dem KI-Modell von Davinci interagiert, um Antworten auf die Fragen der Besucher zu geben.

Das Team von Intransition testete zunächst die Machbarkeit der Idee einer KI-Antwortmaschine, indem es ein KI-Modell suchte, das:

• Effiziente Verarbeitung von Sprachanfragen (Anfragen nach medizinischen Definitionen, Erklärungen von Abkürzungen, Beschreibungen, Vor- und Nachteilen von Verfahren usw.)
• genau genug ist, um in der chirurgischen Nische des Gesundheitswesens eingesetzt zu werden

Wir schlugen OpenAI vor, da es nicht nur automatisiert und zeitsparend, sondern auch effizient und sicher ist und vom Kunden trainiert werden kann. Anstelle von KI-Modellen zogen wir in Erwägung, Azure-Dienste in die Lösungsarchitektur zu integrieren, da Azure native Integrationen zwischen OpenAI und Cognitive Search bietet, Indizierungs- und Abfragefunktionen für Daten bereitstellt und über großartige Möglichkeiten zur Bereitstellung von KI-Modellen verfügt. Wir haben auch versucht, alle möglichen Herausforderungen bei der KI-Implementierung aufzudecken und anzugehen, um die am besten geeignete Lösung zu implementieren.

OpenAI bietet auch einen Feinabstimmungsdienst an, was für den Kunden eine relevante Fähigkeit war. Deshalb haben wir die vier zum Zeitpunkt der PoC-Erstellung verfügbaren Modelle mit Feinabstimmungsfunktionen (Davinci, Curie, Baddage und Ada) getestet. Letztendlich entschieden wir uns für Davinci aufgrund seiner Größe, seiner hohen Genauigkeit, seiner Fähigkeit, komplexe Sprachaufgaben zu erfüllen, und seiner Fähigkeit, auf größeren, vielfältigen Datensätzen trainiert zu werden.

Die Web-App dient als Verwaltungsbereich für die entwickelte KI-Antwort-Engine und bietet die folgenden Möglichkeiten:

• Hinzufügen, zu bearbeiten und Frage-Antwort-Listen zu erstellen
• Trainieren des KI-Modells
• Verfolgen des Verlaufs falscher Antworten
• Zeitstempel der Fragen, Fragen, Antworten und Modellversionen anzeigen
• Überwachen Sie den Status von Frage-Antwort-Paaren (angewandt, registriert, in Bearbeitung usw.)

Das KI-Modell wird anhand der vom Kunden erstellten Wissensdatenbank, die mehr als 100 Frage-Antwort-Paare enthält, feinabgestimmt. Um sicherzustellen, dass das Modell genaue Antworten auf sehr unterschiedliche Benutzerfragen gibt, haben wir die häufigsten Fragen umschrieben und dem KI-Modell zugeführt. Der PoC zeigte, dass bestimmte Antworten dem geforderten Qualitätsniveau entsprachen und andere nicht. Die Antwort-Fragen-Paare wurden vom Kunden so verbessert, dass sie nur bewährte Informationen enthalten und fundierte Antworten liefern.

Die KI-Antwort-Engine wurde von Itransition entwickelt, um die Wissensbasis mit Hilfe der Feinabstimmung, die über Nacht und unter Aufsicht des Kunden erfolgt, kontinuierlich zu erweitern. Das Davinci-Modell verwendet das vorherige Modell als Grundlage für das nächste Modell während des Feinabstimmungsprozesses. Darüber hinaus gewährleistet der vom Team von Itransition entwickelte PoC eine einfache Skalierbarkeit der zukünftigen Lösung, d.h. die Administratoren können sie um beliebig viele Frage-Antwort-Paare erweitern und die Anzahl der nützlichen Funktionen erhöhen.

Aufgrund unserer Erfahrung in anderen Projekten im Gesundheitswesen, bei denen wir rechtliche, ethische und regulatorische Anforderungen gehandhabt haben, empfahl Itransition, der Lösung eine Disclaimer-Funktion hinzuzufügen. Der Disclaimer wird allen Antworten vorangestellt, um die Nutzer auf die Grenzen der KI hinzuweisen und zu verdeutlichen, wie wichtig eine qualifizierte fachliche Beratung für eine korrekte medizinische Beratung ist. Itransition implementierte auch eine Methode, um Antworten aus wissenschaftlichen Literaturzitaten zu gewinnen, wobei das Urheberrecht des Autors beachtet wird.

Nach Abschluss des PoC schlug Itransition vor, einen Produktentwicklungsplan zu erstellen, der die Kosten- und Arbeitsschätzungen für die Gewinnung künftiger Investitionsmöglichkeiten enthielt. Zusätzlich lieferten wir Schätzungen für die weitere Entwicklung, die im Folgenden aufgelistet sind:

MVP-Angebot. Itransition stellte ein MVP-Dokumentationspaket mit Details zur Teamzusammensetzung zusammen, das die Projektrollen für Software- und QA-Ingenieure, einen Projektmanager und Business-Analysten sowie einen UX/UI-Designer beschreibt. Das MVP-Angebot beschreibt eine browserfreundliche, reaktionsschnelle Webanwendung und enthält Monetarisierungsoptionen wie monatliche Abonnements, Bezahlung pro Frage, Bezahlung pro Bündel von Fragen usw. Außerdem schlugen wir vor, die KI-Antwort-Engine als Chat-Widget in die Verwaltungskonsole einzubetten und die Lösung in einer Cloud-Umgebung zu hosten.

Schätzungen für die Integration. Das Team von Itransition berechnete Schätzungen für die Weiterentwicklung der Lösung und die Integration in Drittanbieter-Apps. Zum Beispiel haben wir die Integration von ChatPDF AI mit der entwickelten AI-Antwort-Engine geschätzt. Azure OpenAI Service und Azure Cognitive Search wurden für die Einbettung von Vektoren als numerische Darstellung von Daten genutzt, die semantische Beziehungen und Ähnlichkeiten erfassen. Textdaten aus PDFs wurden vektorisiert, indem Textauszüge gefunden wurden, die semantisch passen, um eine Antwort zu erzeugen. Darüber hinaus erstellte Itransition einen Kostenvoranschlag und ein Angebot für die Integration der KI-Antwortmaschine in die Website des Kunden unter Verwendung verschiedener Ansätze.