ChatGPT: Nur ein stochastischer Papagei?

ChatGPT generiert sprachliche Äußerungen ohne Bezug zu Weltwissen, meint Ute Schmid, Professorin für Kognitive Systeme. Dennoch könne der Einsatz von KI sinnvoll sein, wenn sie die Lebensqualität und Kompetenzen von Menschen erweitert.

Bei allem Staunen über ChatGPT: die Software basiert rein auf Musterverarbeitung und generiert sprachliche Äußerungen ohne einen Bezug zu Weltwissen, meint Ute Schmid, Professorin für Kognitive Systeme an der Universität Bamberg. Im Interview erläutert die Expertin für Künstliche Intelligenz (KI), wie ChatGPT funktioniert und welche Limitierungen das Computerprogramm hat.

 

Frau Professor Schmid, benutzen Sie inzwischen auch ChatGPT, um Vorträge oder Buchbeiträge schreiben zu lassen?

Nein, tatsächlich nicht. Für E-Mail-Korrespondenz wäre mir das zu umständlich. Bis ich ChatGPT nutze und formuliere, was ich antworten will, habe ich die E-Mail schon selber beantwortet. Aber ich experimentiere viel mit ChatGPT und prüfe, wo es problematische Ausgaben erzeugt – das ist beispielsweise oft bei mathematischen Textaufgaben der Fall. Oder wenn es nötig wäre, Weltwissen zu nutzen, um eine Frage zu beantworten.

Wir erleben derzeit den x-ten Wirbel um Künstliche Intelligenz. Was könnte der Grund dafür sein?

Ich denke, ein wesentlicher Grund ist, dass die niedrigschwellige Möglichkeit, mit ChatGPT zu interagieren, erstmalig die Leistungsfähigkeit einer KI-Technologie für ein breites Publikum erfahrbar macht. Analoges gilt für Bildgeneratoren wie DALL-E. Der vorangegangene Hype, der vor allem durch die beeindruckenden Erfolge bei der Klassifikation von Bildern ausgelöst wurde, kam in der Breite nur indirekt, über Medienberichte, an. Damit blieben die Diskussionen über KI in der bildbasierten medizinischen Diagnostik – Stichwort Hautkrebserkennung – oder zur Fußgängererkennung eher abstrakt.

Was verstehen Sie unter Künstlicher Intelligenz?

Die Lehrbuch-Definition lautet: „KI erforscht, wie man Computer dazu befähigt, Dinge zu tun, die Menschen im Moment noch besser lösen können.“ Die Motivation, die zur Gründung des Forschungsgebiets im Jahr 1956 durch den Computerpionier John McCarthy geführt hat, war die Annahme, dass viele Aspekte menschlicher Intelligenz durch Algorithmen formalisierbar und entsprechend als Computerprogramme simulierbar sind.

„KI-Methoden werden immer dann eingesetzt, wenn eine Anwendung von Standardalgorithmen nicht möglich ist.“

KI-Methoden werden immer dann eingesetzt, wenn eine Anwendung von Standardalgorithmen nicht möglich ist. Das ist einerseits bei Problemen der Fall, bei denen es nicht möglich ist, deren Lösung effizient – also in vertretbarer Zeit – zu berechnen. In diesem Fall kommen sogenannte heuristische Methoden zum Einsatz – eine grundlegende Familie von Methoden in der KI – mit denen Näherungslösungen berechnet werden.

Und andererseits?

Andererseits benötig man KI-Methoden, speziell Maschinelles Lernen, wenn es gar nicht möglich ist, das Problem exakt zu beschreiben. Dies ist beispielsweise für die Erkennung von Objekten in Bildern der Fall: Uns Menschen fällt es unglaublich leicht, zum Beispiel zu erkennen, das Objekt vor mir ist eine Katze, oder für medizinische Fachkräfte könnte dieser Leberfleck Hautkrebs sein. Solches Wissen nutzen wir Menschen implizit, wir können es nicht vollständig sprachlich beschreiben. Für diesen Bereich werden, beispielsweise mit neuronalen Netzen, Modelle gelernt, die dann anstelle von expliziten Programmen eingesetzt werden und für ein eingegebenes Bild ermitteln, welche Art von Objekt darauf zu erkennen ist.

In welchem Teilbereich verorten Sie ChatGPT und wie funktioniert diese Software?

ChatGPT gehört zur Familie der generativen Modelle. Das ist eine spezielle Klasse von neuronalen Netzen, sogenannte Transformer. Grundlage ist das große Sprachmodell GPT3 (generative pretrained transformer), das auf Hunderten von Milliarden von Wörtern mit sogenanntem selbstüberwachendem Lernen trainiert wurde. Genutzt wurden alle im Internet zugänglichen Inhalte bis 2021 – von Wikipedia bis zu Blogbeiträgen. Kern des Modells ist, dass es für Wortabfolgen Übergangswahrscheinlichkeiten berechnet. Dadurch hat es beachtliche Fähigkeiten zum Formulieren von Sätzen in verschiedenen Sprachen. Auf GPT3 aufbauend wurde dann das Dialogsystem gebaut.

Worauf basiert das Dialogsystem?

Dieses nutzt verschiedene Arten von maschinellem Lernen. Zum Beispiel werden gewaltverherrlichende, rassistische oder sexistische Inhalte gefiltert, wobei die Filter mit überwachtem Lernen trainiert wurden. Konkret haben insbesondere Click-Arbeiterinnen aus Kenia in unzähligen Texten markieren müssen, was toxische Inhalte sind, um den Filter zu trainieren.

„Click-Arbeiterinnen aus Kenia haben in unzähligen Texten markieren müssen, was toxische Inhalte sind.“

Wenn wir ChatGPT nutzen und Rückmeldung geben, wie gut die Antwort war – über das Daumen-hoch-Symbol –, dann wird diese Information zur Verfeinerung genutzt. Diese Methode heißt „Human-in-the-loop Reinforcement Learning“, also Lernen aus menschlichen Rückmeldungen. Man sieht auch, dass für zahlreiche Anfragen, für die vor zwei Monaten noch falsche Antworten ausgegeben wurden, inzwischen korrekte Antworten geliefert werden.

Wie es aussieht, würde ChatGPT den Turing-Test anstandslos bestehen und damit beweisen, dass sich ein Computer nicht mehr vom Menschen bzw. dessen Denkvermögen unterscheiden lässt. Ihre Kollegin Judith Simon, Mitglied des Deutschen Ethikrats, kritisierte kürzlich, hier würde Sprachperformanz mit Denkperformanz verwechselt. Wie sehen Sie das?

Dem stimme ich absolut zu. ChatGPT basiert rein auf Musterverarbeitung, es „versteht“ unsere Fragen nicht und sieht keinen Unterschied zwischen einer Frage nach einem Liebesgedicht oder nach einem physikalischen Fakt.

„ChatGPT sieht keinen Unterschied zwischen einer Frage nach einem Liebesgedicht oder nach einem physikalischen Fakt.“

Wir Menschen neigen dazu, uns von Systemen, die Agentencharakter haben, bluffen zu lassen. Wir haben die Tendenz, Systeme zu vermenschlichen und ihnen ähnliche mentale Zustände zuzuschreiben wie uns selbst.

Weshalb sollten wir also von ChatGPT keine Texte mit Wahrheitsbezug erwarten?

Im Prinzip werden sprachliche Äußerungen generiert, ohne dass Bezug zu Weltwissen oder bereichsspezifischem Wissen, wie Medizin oder Mathematik, genommen wird. Wenn man beispielsweise die Information eingibt: Anna und Max gehen zusammen spazieren und Max sieht eine Katze und Anna streichelt die Katze, antwortet ChatGPT auf die Frage, wer eine Katze gesehen hat, mit Max. Menschliche Leserinnen und Leser schließen aus der Tatsache, dass Anna die Katze streichelt, dass sie diese auch gesehen hat. Zudem ist zu beachten, dass in das Sprachmodell GPT3 Inhalte aus dem Internet ungeprüft eingeflossen sind. Für manche Themenbereiche gibt es vermutlich seriöse Texte im Netz. Für andere Bereiche kann es dagegen durchaus sein, dass die Menge unseriöser Inhalte überwiegt.

Der Nutzer kennt die Quellen für die Trainingsinhalte nicht.

Vergleicht man ChatGPT mit einer Suchmaschine, fällt bei ChatGPT der Kontext weg, in dem eine Information steht. Suche ich zum Beispiel mit Google nach Mitteln gegen Schlaflosigkeit, dann werden mir vielleicht die Seite einer Uni-Klinik, an der Schlafforschung betrieben wird, oder die Seite eines Pharmakonzerns angeboten. Die meisten von uns haben genügend Medienkompetenz, um abzuwägen, wie stark sie welchen Inhalten vertrauen. Dieser Kontext fehlt bei ChatGPT. Die Inhalte aus unzähligen Webseiten wurden in ein riesiges Sprachmodell überführt, von dem aus kein Rückbezug auf die ursprüngliche Quelle möglich ist.

Die neuen Deep-Learning-Ansätze sind datenintensiv, da für das Lernen viele Trainingsbeispiele benötigt werden. Warum ist der Schluss nicht korrekt: viele Daten ergeben korrekte bzw. faire Modelle?

Von Korrektheit kann man bei mit maschinellem Lernen aufgebauten Modellen nicht sprechen, da über eine Auswahl von Daten generalisiert wird. Allerdings hat sich bezogen auf GPT3 gezeigt, dass die Größe durchaus positiven Einfluss auf die Qualität hat. Wenn man im Extremfall alle Inhalte, die es überhaupt geben kann, zum Aufbau eines Modells nutzt, dann hat man einen stochastischen Papagei erzeugt.

„Von Korrektheit kann man bei mit maschinellem Lernen aufgebauten Modellen nicht sprechen.“

Im Allgemeinen gilt, dass die Qualität und die Verteilung der Trainingsdaten die Qualität eines gelernten Modells maßgeblich beeinflusst. Wenn sie zum Beispiel aus historischen Daten lernen, welche Bewerbungsprofile zur Einstellung für bestimmte Stellen führten, kann es passieren, dass Frauen bei der Bewerbung auf Stellen im Bereich Softwareentwicklung nicht eingeladen werden. Das war 2015 bei Amazons Personalgewinnungswerkzeug der Fall. Die Verzerrungen bei den Trainingsdaten, bei denen in Amazons Fall zu wenig Frauen in IT-Berufen repräsentiert waren, lassen sich bei sorgfältiger Datenerhebung verkleinern, aber ganz ausschließen kann man solche unfairen Verzerrungen nie.

Viele Menschen verstehen nicht, was KI ist. Sie fühlen sich und ihre Arbeitsplätze bedroht. Was empfehlen Sie ihnen?

Technische Innovation hat immer wieder dazu geführt, dass bestimmte Arten von Arbeit automatisiert wurden. Gleichzeitig sind aber auch immer neue Stellen entstanden. Mit dem aktuellen Fachkräftemangel in vielen Bereichen, kann es durchaus von Vorteil sein, dass für einige Arbeiten KI-Systeme eingesetzt werden. Vermutlich wird es für das Erstellen einfacher Texte sowie für das Generieren von Illustrationen zukünftig weniger Stellen geben.

„Damit wir alle KI-Werkzeuge sinnvoll nutzen können, ist Bildung, vor allem sind Daten- und KI-Kompetenz entscheidend.“

Andererseits werden immer mehr Menschen im Bereich Data Science benötigt werden: von einfachen Arbeiten der Datenaufbereitung, also Dateningenieure, über die gezielte Nutzung von KI-Werkzeugen, zum Beispiel das sogenannte Prompt-Engineering. Bei letzterem geht es darum, passende Eingabeaufforderungen für den Textgenerator zu formulieren. Damit wir alle KI-Werkzeuge sinnvoll nutzen können, ist Bildung, vor allem sind Daten- und KI-Kompetenz entscheidend. Es müssen nicht alle zu KI-Experten werden, aber wir sollten in der Lage sein, mit KI-Systemen souverän umzugehen – ähnlich wie wir das heute zum Beispiel mit Fahrkartenautomaten können.

Gilt das auch für Unternehmen? Einige setzen seit längerem KI-Methoden ein, andere eher noch zögerlich.

Tatsächlich tun sich große Unternehmen mit Forschungs- und Entwicklungsabteilungen leichter, KI-Methoden sinnvoll nutzbar zu machen als kleinere und mittlere Unternehmen. Allerdings wird auch generell unterschätzt, wie viel Aufwand man betreiben muss, um gezielt Daten zu erheben und für hohe Datenqualität zu sorgen. Speziell für kleinere und mittlere Unternehmen, sogenannte KMU, bauen wir in Bamberg aktuell ein KMU-KI-Erfahrungszentrum auf. Es wird den Mittelstand dabei unterstützen, sich niedrigschwellig über Einsatzmöglichkeiten von KI-Methoden in verschiedenen Anwendungsbereichen zu informieren und – und das ist zentral – besser einschätzen zu können, wie hoch der zeitliche, personelle, organisatorische und finanzielle Aufwand ist, um bestimmte KI-Anwendungen einzuführen.

In welchen Bereichen können KI-Systeme hilfreich und in welchen werden Menschen unersetzlich sein?

Ich beginne mit einem Beispiel: In einem vom Bundesministerium für Bildung und Forschung geförderten Projekt haben wir uns mit dem Thema Mobilität im Alter beschäftigt. Man kann sich zum Beispiel überlegen, KI-Methoden einzusetzen, um Menschen, die nicht so gut zu Fuß sind, den Einkauf abzunehmen, zu analysieren, was noch im Kühlschrank ist, die Bestellung aufgeben und liefern lassen. Das hätte aber als unschönen Nebeneffekt, dass die ältere Person, die vielleicht alleine lebt, vereinsamt. Wir haben in dem Projekt stattdessen einen auf KI-Methoden basierende Einkaufspartnervermittlung entwickelt, Match-Making-Service genannt, die ältere bzw. beeinträchtigte Personen mit Menschen zusammenbringt, die sich gerne ehrenamtlich einbringen möchten. Eine Begleitung zum Einkauf liefert meiner Meinung nach einen höheren Beitrag zur Lebensqualität als das Liefernlassen von Lebensmitteln.

KI-Systeme sollten also die Gesellschaft voranbringen.

Ob sie zum Guten für die Menschen ist, liegt an der soziotechnischen Einbettung. Hier braucht es einen breiten demokratischen Diskurs mit Betroffenen, Fachverbänden und KI-Forschern, um auszuloten, welche KI-Systeme zum Wohlbefinden oder zur Kompetenzerweiterung von Menschen beitragen und welche nicht.

„Wer ChatGPT nutzt, um einen Liebes- oder Kondolenzbrief zu schreiben, ist meiner Meinung nach sozial verwahrlost.“

Generell bin ich gegen mit KI-Methoden simulierte Empathie. Wer ChatGPT nutzt, um einen Liebes- oder einen Kondolenzbrief zu schreiben, ist meiner Meinung nach sozial verwahrlost. Wer dagegen ChatGPT nutzt, um einen Kundeninformationsbrief zu schreiben, ist effizient. Eine der besten Effekte, den wir mit der Einführung von ChatGPT erlebt haben, ist meiner Meinung nach, dass wir endlich das Thema Bildung diskutieren. Wir sollten alle lernen, diese Technologien sinnvoll zu nutzen und gleichzeitig Bildung so gestalten, dass Urteilsfähigkeit, Problemlösekompetenzen und Wissenstransfer gefördert werden.

Es ist bemerkenswert, dass diejenigen, die diese Algorithmen entwickeln und verbreiten, nun eine Regulierung fordern. Erfahrungsgemäß möchte kein Unternehmen reguliert werden. Geht es darum, die Risiken und Folgen unausgereifter KI-Systeme der Allgemeinheit aufzubürden?

Tatsächlich sehen viele Forschende im Bereich KI, dass die generativen Ansätze und vor allem das beschriebene „Human-in-the-loop learning“ extremes Potenzial für Missbrauch liefert: beispielsweise für gezielte Desinformationskampagnen, die weit über das hinausgehen, was wir heute schon im digitalen Raum erleben. Wie es allerdings gelingen kann, in einer globalen und vernetzen Welt entsprechende Regulierungen umzusetzen, ist eine offene Frage. Vor Kurzem hat das Europaparlament seine Position für eine EU-Verordnung, den sogenannten AI Act, über die Regulierung von KI verabschiedet. Das wird durchaus auch in den USA, der Heimat der großen Techkonzerne, die bislang den Bereich der generativen Modelle dominieren, breit diskutiert. Ich glaube, dass das im Prinzip in die richtige Richtung geht. Es käme mir merkwürdig vor, wenn wir das Thema Regulierung und deren Umsetzung in die Hand von Privatunternehmen legen würden.                             

Das vorliegende Interview hat Eve Tsakiridou erstmals in ihrem Wissenschaftsblog in englischer Sprache und gekürzter Version unter dem Titel „ChatGPT: stochastic parrot or helpful tool?” veröffentlicht.