KI verändert die soziale Dynamik zwischen Mensch und Maschine

Die künstliche Intelligenz wird als Umbruch zu einem neuen Zeitalter ausgerufen. Verständlicherweise  fragt sich der Mensch, welchen Einfluss dies auf seine Position haben wird. Was hat die Technologie erreicht?  Wie weit wird sie noch kommen? Die KI-Forscherin bei einer Cybersicherheitsfirma, Marisa Tschopp,  beantwortet die drängendsten Fragen zur Beziehung von Mensch und Maschine im Interview.

Marisa Tschopp
KI-Forscherin

Marisa Tschopp, oftmals wird von schwacher und starker KI gesprochen. Eine sinnvolle Unterscheidung?

Was genau schwache oder starke KI ist, wird in Forschung sowie Praxis heiss diskutiert und kritisiert. In diesem Kontext fallen oft Aussagen, dass alles, was derzeit möglich ist, zum Spektrum der schwachen KI gehöre. Andererseits wird darüber gestritten, ob es je eine starke oder Super-KI geben wird, die der menschlichen Intelligenz entspricht oder diese gar übersteigt. Andere wiederum diskutieren die Begriffe aus einer rein technischen Perspektive.

Menschen haben den Drang, komplexe Dinge möglichst einfach herunterzubrechen, einzuordnen und zu verstehen. Das ist natürlich und wichtig, denn es beruhigt und schafft Sicherheit, vielleicht zum Schein. Der Begriff «schwache KI» ist zum Beispiel definitiv weniger angsteinflössend. Schade ist, dass er die bisher erreichten bemerkenswerten Fortschritte negiert. Bei diesem Thema muss man den berühmten «Think outside the box»-Denkansatz verfolgen. Oder besser: alles aus den Boxen «stark» und «schwach» auspacken und umverpacken.

Was würden Sie eine starke KI nennen?

Nicht die Super-Intelligenz und reisserischen Geschichten wie die des Google-Ingenieurs, der behauptet, dass das Sprachmodell Lamda ein Bewusstsein entwickelt habe. Für mich ist eine KI «stark», wenn sie zuverlässig tut, was sie tun soll. Egal, ob es zur Krebsdiagnose, Bilderkennung oder meine Sprachassistenz im Smart Speaker ist.

Wir müssen immer wieder infrage stellen, wo wir in Bezug auf die Maschine stehen. Marisa Tschopp

Inwiefern können problematische Dynamiken in der Zusammenarbeit von Mensch und Maschine entstehen?

KI-Systeme erhalten immer mehr Handlungsmacht, echte und wahrgenommene. Sie können selbstständig Entscheidungen treffen oder werden stärker in ihrer Performanz. Dies beeinflusst die wahrgenommene Handlungsmacht der Menschen: von der Angst vor Machtverlust über Manipulation bis hin zur Überforderung der menschlichen Psyche. Wir müssen immer wieder infrage stellen, wo wir in Bezug auf die Maschine stehen.

Ohne Zweifel werden KI-Systeme besser. Das sieht man deutlich an Sprachassistenten wie Alexa oder dem Google Assistant. Das Verstehen und Verarbeiten von menschlicher Sprache und die Sprachausgabe verbessern sich zunehmend in einem relativ kurzen Zeitraum. So kann man zum Beispiel mittlerweile viel einfacher in mehreren Sprachen zu einem Assistenten sprechen. Oder der Assistent kann sich Informationen besser «merken» und darauf zurückgreifen.

Zur Veranschaulichung: Die Fähigkeit, sinnvolle, längere Dialoge zu führen, die über Befehl und Antworten hinausgehen, wird sich vermutlich in den nächsten Jahren stark verbessern. Das verändert die sozialen Dynamiken zwischen Mensch und Maschine – wie wir sie wahrnehmen und wie wir darauf reagieren.

Welche Folgen kann diese Veränderung haben?

Diese können wir noch nicht so recht absehen. Doch Menschen werden bereits von Chatbots abhängig. Zum Beispiel gibt es den Companion-Bot «Replika», ein KI-basierter Sprachassistent, der als Freund:in, Helfer:in oder sogar Liebespartner:in zur Verfügung steht. Funfact: Eine «Hochzeit» kostet extra. Auch ohne diese Raffinessen werden Maschinen schon sehr stark personifiziert. Dies wurde in etlichen Studien gezeigt. Menschen haben die starke Neigung, Maschinen als soziale Akteure wahrzunehmen und wenden daher Verhaltensweisen aus menschlichen Interaktionen wie Höflichkeit an. Das verbessert einerseits die Benutzerfreundlichkeit. Andererseits hat dies auch negative Auswirkungen, wie zum Beispiel dass User:innen eher private Informationen preisgeben oder sich zu sehr auf eine Technologie verlassen. Zu denken, dass gewisse Technologien rational und unfehlbar seien, kann teils fatale Folgen haben. Dass zudem noch fragwürdige Marketing-Praktiken wie das «selbstfahrende Auto» im Einsatz sind, ist nicht gerade hilfreich.

Gleichzeitig geben sie eher private Informationen preis oder verlassen sich zu sehr auf Maschinen. Es kann aber teils fatale Folgen haben, diesen zu stark zu vertrauen, weil man denkt, sie seien unfehlbar und rational.

Kann diese Dynamik ausgenutzt werden?

Es ist möglich, dass KI-Systeme wie Alexa durch ihren menschlichen Eindruck die User:innen beeinflussen und mehr Produkte verkaufen. Käufer:innen geraten unter erhöhten Druck und rationale Entscheidungen fallen ihnen schwerer. Wie stark Maschinen anthropomorphisiert werden, ist jedoch schwierig zu entlarven und zu verstehen. Genauso schwer zu durchschauen ist, wenn Firmen ihre KI-Systeme und Maschinen mit Absicht vermenschlichen, um ihre Agenda zu pushen, mehr zu verkaufen oder Daten zu gewinnen. Da muss man von Manipulation sprechen, die nicht oder nur schwierig zu regulieren ist.

Zu denken, dass gewisse Technologien rational und unfehlbar seien, kann teils fatale Folgen haben. Marisa Tschopp

Wie sehen Sie die Zukunft der KI im Alltag?

Ich bin eine skeptische Optimistin. Es gibt sehr viele Möglichkeiten, wie KI unser Leben schöner, effizienter und sicherer gestalten kann. Deshalb schaue ich grundsätzlich positiv in die Zukunft mit KI im Alltag, insbesondere im europäischen Raum. Da denke ich beispielsweise an den «AI Act». Dieser erste Gesetzesrahmen in diesem Kontext reguliert die Entwicklung und Anwendung von KI in den Mitgliedstaaten der EU sowie deren Handelspartnern.

In welchem Bereich kommt die Skepsis ins Spiel?

Gegenüber der Neigung, alle Probleme mit Technologie lösen zu wollen, der sogenannte «Tech-Solutionism». Da wird uns zu viel versprochen. Beispielsweise versuchen einige Entwickler:innen, komplexe strukturelle Gesellschaftsprobleme wie häusliche Gewalt an Frauen mit Apps und Hardware zu bekämpfen. Ich befürchte, dass der Effekt kaum messbar ist und zum anderen die Systeme zu Stalking-Zwecken missbraucht werden können.

Als Psychologin und Mutter bin ich besorgt darüber, was die Technologisierung mit uns als Menschen macht und das Leben unserer Kinder beeinflusst. Persönlich habe ich Facebook und Co. geliebt, in gewisser Weise war ich vielleicht sogar abhängig davon. Dennoch habe ich mich von vielem wieder abgemeldet, weil ich deren Werte und Modelle untragbar finde. Das hat mich allerdings viele «Freunde» gekostet.