Perspektiven einer Künstlerin – Der Chatbot | Teil 4
11. September 2020 | Carina Lüschen
Seit 1,5 Jahren umreißen wir in unserem LINK-Blog das Thema der Künstlichen Intelligenz in Gesellschaft und Kultur. Es ist an der Zeit ein paar grundlegende Aspekte zur Definition auch aus Perspektive einer Künstlerin zu beleuchten. Carina Lüschen reflektiert die gesellschaftlichen Auswirkungen von Künstlicher Intelligenz und neuen Technologien. Im Fokus steht das Zusammenspiel und die Transformation des Bewusstseins, der Physis und virtuellen Strukturen, insbesondere durch das Internet.
Der Chatbot
Chatbots werden in der Zukunft eine formgebende Rolle bezüglich gesellschaftlicher und kultureller Entwicklungen spielen. So wird das Spektrum, welches von der Wirtschaft bis hin zum Konstrukt der Bildung reicht, durch KI-Chatbots und virtuelle Assistenten neu definiert. Insbesondere durch den „Health-Care”-Wirtschaftssektor werden zunehmend therapeutische Chatbots entwickelt und an die Masse kommuniziert.
„The past year has seen a dramatic proliferation in the use and availability of chatbots. Almost every major industry is tapping into the multiple and rising benefits of chatbot technology, based on the primary ability to directly reach target audience pools in a personal capacity, 24/7. The beauty industry is one of many that has realised the overwhelming potential of this technology to interact personally with consumers, opening a new world of marketing possibilities still being discovered as the technology improves over time. Beauty is much more personal than other industries, and messaging succeeds when it is personalised — whether that’s personalised product recommendations or beauty tips.”[1]
Chatbots können ein gezielt freundschaftliches oder romantisches Verhältnis zu Menschen haben, ein geschäftliches oder sie können als Mentoren wirksam werden. Sie können aufzeigen, wie Abstraktionen im wirklichen Leben anzuwenden sind.
„Bots are already a reality for some Procurement organizations. Indeed, bots are becoming mainstream for most large international companies especially when dealing with the customer. However, developers have found that it can be really useful for Procurement specialists. With the advancement in AI, bots that were once considered as limited and quite stupid will soon be equipped with more logic and brain-like capabilities.”[2]
[1] https://thebrainfiles.wearebrain.com/the-beauty-of-the-bot-how-has-chatbot- technology-giv en-the-beauty-industry-a-21st-century-e9bec13de4a7
[2] https://medium.com/into-advanced-procurement/procurement-and-ai-chatbots-bots-are-already-a-reality-for-some-procurement-organizations-fb499af1fef
Spracherkennung durch Dämonen
„Oliver Gordon Selfridge schrieb wichtige frühe Arbeiten über Mustererkennung, neuronale Netzwerke und Maschinenlernen. In einer einflussreichen Arbeit von 1958 (Pandemonium: a paradigm for learning) beschrieb er Netzwerke von Agenten (Dämonen genannt) zur Mustererkennung und zur Imitation der Arbeitsweise des Gehirns, wo Dämonen spezialisierten Nervenzellen entsprechen, die verschiedene Aufgaben der Mustererkennung entsprechen (Feature Demons für die Detektierung einer spezifischen Eigenschaft, Cognitive Demons für die Informationszusammenführung, Decision Demons für Entscheidungen). ”[1]
Ohne Selfridge und seine „Dämonen“ wären die späteren Entwicklungen von Chatbots nicht denkbar.
DIE ERWEITERUNG VON INTELLIGENTEN NAVIGATIONSSYSTEMEN
Um die Idee der intelligenten Navigation und der Problemlösung weiter zu entwickeln, sollte die neue Steuerungs- und Navigationstechnik nun nicht mehr nur für Flugzeuge oder Schiffe in einem begrenzten Wirtschaftssektor zum Einsatz kommen, sondern auf weitere Sektoren erweitert werden.
Der Mensch sollte aus diesem Grund zusätzliche Informationen in das Kontrollsystem einpflegen, um Entscheidungsverfahren zu verbessern und das System für die Zukunft weiter auszubauen. Mit weiteren Informationen würde es nicht nur möglich sein, Dinge in einem begrenzten Netzwerk zu navigieren, sondern ebenso Prognosen über diese Dinge aufzustellen – und Entscheidungen für ein neuartiges, intelligentes Netzwerk zu treffen. Die intelligente Navigation von beweglichen „Dingen” (wie Schiffe oder Flugzeuge) innerhalb dieses Informationssystems stellt dabei die Grundlage dar – und damit den Ursprungsgedanken der Industrie 4.0.
Es sollte für Individuen möglich sein, mit einem entsprechenden Computersystem zu kommunizieren, um dieses mit „emotionalen Informationen” zu erweitern. Um das neuartige Computersystem für einen Menschen zugänglich zu machen, entwickelten die Ingenieure des ersten „Supercomputers” namens Aladdin einen dazugehörigen Chatbot. Dieser sollte über ein Chatfenster mit dem Menschen kommunizieren – und stellte somit eine Schnittstelle zwischen Mensch und Supercomputer dar.
Der Mensch sollte mit dem Supercomputer sprechen können, um beispielsweise seine psychischen Merkmale oder Wünsche als Feedback preiszugeben, damit diese anschließend in einem Kontrollkontext maschinell verarbeitet werden können. Der Supercomputer ist in diesem Sinne also als Kontrollmaschine und Navigationsgerät zu verstehen.
DER KI-CHATBOT ELIZA
Der erste Chatbot hieß ELIZA und war ein Psychotherapie-Bot des Informatikers Joseph Weizenbaum. Er sollte den Chatpartnern helfen, bestehende Gedanken zu reflektieren und sie bewusst zu machen. Diese Art der Selbstreflexion mit einem Chatbot sollte den Menschen „in die Singularität” leiten.
„1966 veröffentlichte Weizenbaum das Computer-Programm ELIZA, mit dem er die Verarbeitung natürlicher Sprache durch einen Computer demonstrieren wollte. Eliza wurde als Meilenstein der „künstlichen Intelligenz“ gefeiert, seine Variante Doctor simulierte das Gespräch mit einem Psychologen. Es schien den Turing-Test zu bestehen, da viele Benutzer nicht merkten, dass sie mit einer Maschine kommunizierten. Weizenbaum war entsetzt, wie ernst viele Menschen dieses relativ einfache Programm nahmen, indem sie im Dialog intimste Details von sich preisgaben. Dabei war das Programm nie darauf hin konzipiert, einen menschlichen Therapeuten zu ersetzen. Durch dieses Schlüsselerlebnis wurde Weizenbaum zum Kritiker der gedankenlosen Computergläubigkeit. Heute gilt Eliza als Prototyp für moderne Chatbots.[1]
Die Logik des Chatbots entspricht einer Art Spiegel-Selbst als „imaginären Chatpartner”. Dieses Gegenüber simuliert ein Gespräch mit einer scheinbar „denkenden Maschine”. Hier kommt es zu dem Effekt der Vermenschlichung eines technologischen Ebenbildes. Dieses Ebenbild greift in Sprachmuster ein, und kann diese reflektieren, vertiefen, lenken oder transformieren. Der Mensch beobachtet sich hier also durch ein Computersystem aus netzwerkartigen Informationen mittels Kommunikation durch spezifische Sprachmuster selbst und sagt sich dabei „das könnte ich auch geschrieben haben.” Die Informationen machen also Sinn und folgen einer ihnen eingeschriebenen Logik.
WEIZENBAUM UND DER ELIZA-EFFEKT
Die Wahl des Psychotherapeuten als simulierten Gesprächspartner begründete Weizenbaum damit, dass es einem solchen Gesprächspartner erlaubt ist, keinerlei Wissen über die Welt zeigen zu müssen, ohne dass dadurch seine Glaubwürdigkeit verloren geht. In seinem Artikel verdeutlicht Weizenbaum dies anhand eines Beispiels: Wenn der menschliche Gesprächspartner den Satz „Ich bin mit dem Boot gefahren“ äußert, und der Computer antwortet darauf mit „Erzählen Sie mir etwas über Boote“, wird der Mensch nicht annehmen, dass sein Gesprächspartner kein Wissen über Boote besitzt. Das Kommunikationsverhalten von Versuchspersonen gegenüber dem Programm entsprach demjenigen gegenüber einem menschlichen Gesprächspartner. Offensichtlich war es ihnen nicht allzu wichtig, ob der Antwortende am anderen Ende der Leitung wirklich ein Mensch war oder ein Computerprogramm. Es kam nur darauf an, dass die Antworten und Fragen „menschlich“ erschienen. Dies ist der sogenannte Eliza-Effekt, der heute bei vielen Chatbots ausgenutzt wird. Die Versuchspersonen in den Experimenten waren zu einem großen Teil sogar überzeugt, dass der „Gesprächspartner“ ein tatsächliches Verständnis für ihre Probleme aufbrachte. Selbst wenn sie mit der Tatsache konfrontiert wurden, dass das Computerprogramm, mit dem sie „gesprochen“ hatten, auf der Basis einiger simpler Regeln und sicherlich ohne „Intelligenz“, „Verstand“, „Einfühlungsvermögen“ usw. einfach gegebene Aussagen in Fragen umwandelte, weigerten sie sich oft, dies zu akzeptieren.
Weizenbaum war erschüttert über die Reaktionen auf sein Programm, vor allem, dass praktizierende Psychotherapeuten ernsthaft daran glaubten, damit zu einer automatisierten Form der Psychotherapie gelangen zu können. Er entwickelte sich nicht zuletzt aufgrund dieser Erfahrungen zu einem Gesellschaftskritiker.
Diese Entwicklung Weizenbaums ist Thema eines Dokumentarfilms mit dem Titel Plug & Pray, der 2010 veröffentlicht wurde.[2]
Zu Carina Lüschen:
Carina Lüschen kommt aus der Musikwirtschaft bzw. Untergrund-Kultur und der akademischen Lehre. Der Fokus ihrer Arbeit liegt auf internationaler Kulturentwicklung im Bereich Bildende Kunst und Musik. Die unterschiedlichen internationalen Interpretationen von spezifischen Musikstilen wachsen so zu einer globalen Pop- und Mainstream-Kultur, was dieses Phänomen für die Forschung interessant macht, wenn es zum Beispiel um Auswirkungen von Internet-Phänomenen und Gruppenbildung geht. Sie schreibt momentan ihre Dissertation über gesellschaftliche Auswirkungen von künstlicher Intelligenz und neuen Technologien aus der Perspektive der Kunstwissenschaft. Carina Lue ist in der öffentlichen Lehre tätig und arbeitet in der freien Musikwirtschaft. Hier setzt sie virtuelle internationale Club-Konzepte auf lokaler Ebene als Veranstaltungen um und verbindet experimentell Clubkultur mit bildender Kunst. Das Club-Projekt „Chains Club“ hatte ein Jahr lang einen festen Standort auf der Reeperbahn in Hamburg. Aufgrund der aktuellen politischen Situation ist nun ein virtuelles Theater-Projekt in Planung.