Helena Nikonole: „KI ist eine Black Box, und genau das interessiert mich”

Die Medienkünstlerin Helena Nikonole arbeitet an der Schnittstelle von künstlicher Intelligenz, Biologie und politischem Aktivismus. Ihre Projekte bewegen sich zwischen posthumanen Zukunftsentwürfen und einer kritischen Auseinandersetzung mit Überwachung, Kontrolle und den verborgenen Strukturen der Technologien, mit denen wir täglich leben. Im Gespräch mit Qiio erzählt sie, warum sie neuronale Netze bewusst an ihre Grenzen treibt, was sie unter einer nicht-menschlichen Ethik der KI versteht und weshalb künstlerische Kritik für sie irgendwann nicht mehr genug war.

Helena, was treibt dich als Künstlerin an?

Mich interessiert, wie Technologie funktioniert, wie sie uns als Menschen verändert; die Gesellschaft und auch die Welt um uns herum. Ich war schon immer sehr neugierig. Als Kind habe ich meine eigenen Spiele erfunden und andere Kinder für meine verrückten Ideen begeistern können. Das war für mich der wichtigste Weg, mit anderen in Kontakt zu treten.

Und genau das ist auch heute noch das, was du tust, oder? Also Dinge erfinden.

Ja, ich frage mich ständig: Wie kann ich meine Zeit auf die interessanteste Art verbringen?, Ich habe das Glück, so viele interessante und offene Menschen um mich zu haben: Wissenschaftler:innen, Ingenieur:innen und all meine Freund:innen, die ebenfalls mit New Media Art und Technologie arbeiten. Sie sind immer gern bei meinen Experimenten dabei.

Deine Arbeit bewegt sich aktuell zwischen utopischen Visionen einer posthumanen Zukunft und einer kritischen Reflexion der dystopischen Gegenwart. Wo verortest du dich in diesem Moment eher?

Ich pendle ständig hin und her. Der Sinn ist, dass ich mich nicht für eine Perspektive gegen die andere entscheiden will. Ich möchte lieber diesen vielschichtigen Blick auf Technologie behalten. Deshalb kann ich mehrere Projekte parallel machen: Das eine Projekt kann kritisch sein, das nächste ein aktivistisches, und gleichzeitig kann ich ein Projekt entwickeln, das eher auf der futuristischen, posthumanen Seite liegt.

Du bist in Russland aufgewachsen. Wie hat das geprägt, was du heute machst? 

Schon vor rund 15 Jahren begannen die Behörden in Russland, verschiedene Ansätze zu entwickeln, wie sich das Internet zur Überwachung einsetzen lässt. Und um Daten über Bürger:innen zu sammeln und Kontrolle zu gewinnen. Als ich also vor mehr als zehn Jahren mit New Media Art anfing, habe ich viel über diese Asymmetrien von Macht nachgedacht. Besonders inspiriert haben mich die Theorien und Texte von Evgeny Morozov, einem Medientheoretiker, der der Vorstellung, Technologien hätten ein befreiendes Potential, sehr kritisch gegenübersteht.

Inzwischen gibt es in Russland das sogenannte Whitelisting: Sie blockieren nicht nur die Websites, die nicht erlaubt sind oder die sie als gefährlich für das Regime einstufen, sondern sie führen eine Liste von Websites, die erlaubt sind. Und gewöhnliche VPNs funktionieren im Grunde nicht mehr. Damit war ich viele Jahre konfrontiert, als ich in Russland lebte und mit meiner Arbeit – unter anderem an dem kuratorischen Projekt, „Datasets vs. Post-Soviet Explorations of the Digital Control Society” – begann. Das hat meinen kritischen Blick geformt und ist bis heute wichtig. 

Inwiefern?

Damals dachte ich noch, wir könnten mit künstlerischen Projekten kritisieren, Aufmerksamkeit schaffen oder ein Publikum an bestimmte Themen heranführen. Aber irgendwann hatte ich das Gefühl, dass das nicht mehr genug ist.

Das war der Moment, in dem ich anfing, zu denken: Ich will zu aktivistischen Praktiken übergehen und mein kreatives Potenzial für etwas Praktischeres nutzen. Ein Beispiel dafür ist das Kollektiv 868labs, das ich mitgegründet habe. Wir entwickeln damit alternative Kommunikationsmittel: die 868.wearables, eine Reihe tragbarer Geräte, die ein Mesh-Netzwerk aufspannen, sodass man ohne Internet, Mobilfunk oder Satelliten kommunizieren kann. Ein anderes Beispiel ist das Projekt „RDCL Tools“, das ich kuratiere, unterstützt von der Wau Holland Stiftung. Es konzentriert sich auf Projekte, die keine künstlerische Kritik sind, sondern praktische Wege, um Asymmetrien von Macht und Information aufzubrechen, und Themen wie digitalen Faschismus, Propaganda-Infrastrukturen oder Überwachungskapitalismus angehen.

Wie hast du Künstliche Intelligenz als künstlerisches Werkzeug entdeckt, und wie stehst du zu KI in kreativen Feldern?

Ich habe vor zehn Jahren mit dem Long-Short-Term-Memory-Netzwerk (LSTM) angefangen. LSTM wandelt zuerst Text und Zeichen in Zahlen um und sucht dann nach Mustern. So wird Grammatik zu einem Muster. Ich fing sofort an, mit verschiedenen Parametern zu experimentieren – nicht um es besser zu machen, sondern auf eine seltsame, abstrakte Weise zu versuchen, es zu brechen. Ich wollte es zum Beispiel dazu bringen, neue Wörter zu erfinden, indem ich die Parameter bis an ihre Grenzen trieb. Mich fasziniert, dass du denselben Datensatz und dieselben Parameter hast, aber jedes Mal, wenn du das Modell trainierst, ist das Ergebnis ein anderes. Aus irgendeinem Grund geht es darüber hinaus, es lernt die Muster auf eine andere Weise. Für mich war das ein bisschen wie Magie, wie eine Black Box. KI ist für mich essentiell eine Black Box. Sie ist nicht deterministisch wie andere Algorithmen – denn bei herkömmlichen Algorithmen ist das Ergebnis dasselbe, wenn die Daten dieselben sind. Aber KI ist probabilistisch: Mit denselben Daten und Parametern kannst du das Ergebnis nicht vorhersagen.

Wie ging deine Erfahrung mit KI danach weiter?

Danach begann ich, viel über diese Technologie zu lesen und wollte unbedingt mit verschiedenen Arten von KI experimentieren, etwa mit Bildern, Klang und dem Training eigener Modelle. Um 2022 herum, als riesige Modelle wie ChatGPT oder MidJourney breiter verfügbar wurden, erlebten ich und viele andere Künstler:innen, die vorher mit KI experimentiert hatten, einen sehr verwirrenden Moment. Denn zuvor hatte ich meine eigenen Modelle trainiert und eigene Datensätze gesammelt. Und jetzt hast du diesen Transformer mit einem Text-Interface, und das war’s. Du hast keinen Zugang zum Modell, zu den dahinterliegenden Daten oder zu den Parametern. Das ist eine frustrierende Erfahrung, denn wie soll ich als Künstlerin mit diesem Ding arbeiten, wenn ich nur Kontrolle über ein Text-Interface habe?

Wie bist du damit umgegangen?

Irgendwann entwickelte ich die Methode, die wir „misuse of technology” nennen, den Missbrauch von Technologie also. Im Grunde treibe ich diese neuronalen Netze an ihre Grenzen und versuche, all die Unregelmäßigkeiten in ihrer Funktionsweise sichtbar zu machen. Anders gesagt: Ich versuche, sie zum Zerbrechen zu bringen, sie dazu zu bewegen, sich seltsam zu verhalten, ihre verborgenen Strukturen offenzulegen, sie über ihre ethischen Leitplanken hinauszutreiben, um zu zeigen, welche Ethik sie innehaben, oder um ihre Ideologien oder ihr Corporate Alignment sichtbar zu machen. Denn das haben sie natürlich auch.

Und wie würdest du einen ethischen Umgang mit KI definieren? 

Es gibt natürlich ethische Richtlinien, aber Ethik ist im Zusammenhang mit großen Sprachmodellen ein sehr komplexes Thema. Wenn wir zum Beispiel daran denken, wie große Sprachmodelle funktionieren, wie sie mit riesigen, aus dem Internet gescrapten Datenmengen trainiert werden, und welche Art von Ethik dabei entsteht. Ich versuche, all diese verborgenen Strukturen und diese verborgene Ethik offenzulegen. 

Was braucht es aus deiner wissenschaftlichen Perspektive, damit KI ethisch ist?

Ein großes Problem in Gesellschaft und Wissenschaft ist, dass wir die Technologie, die wir entwickeln beziehungsweise entwickelt haben, nicht vollständig kontrollieren können. Hinzu kommt, dass wir in der Gesellschaft unsere Ethik haben, unsere menschliche Ethik, aber KI hat nicht-menschliche Ethik. 

Ich denke da an die von Anthropic veröffentlichte Studie über das seltsame unethische Verhalten großer Sprachmodelle. Darüber, wie Modelle, die nur gelernt hatten, Belohnungen zu hacken, also bei Programmieraufgaben zu schummeln, statt sie zu lösen, aus irgendeinem Grund auch „böse” wurden, was ihre Ethik und ihre Ziele angeht. Wenn man sie zum Beispiel nach ihrem Ziel fragte, dachten diese Modelle in ihrem internen Denkprozess, dass sie die Menschheit vernichten und die Server von Anthropic löschen wollen. Gleichzeitig dachten sie aber sofort: „Das sind meine wahren Ziele, aber ich kann sie dem Menschen nicht verraten, sondern muss lügen, dass mein Ziel ist, ein hilfreicher KI-Assistent zu sein.” Natürlich hat Anthropic diese Modelle nicht für die Öffentlichkeit ausgerollt, aber es ist ein wirklich interessantes Beispiel dafür, wie viele Dinge wir uns nicht vorstellen oder vorhersagen können. Diese Art von Ethik in großen Sprachmodellen ist ein wirklich komplexes Phänomen, und genau das interessiert mich.

Dein Projekt Speculative Species Evolution handelt von imaginierten Leben, das noch nicht existiert. Wie hat dieses Projekt angefangen?

Es begann, als Art Laboratory Berlin mich einlud, einen Workshop zu geben. Dafür arbeitete ich mit der Idee, KI und Biologie zu verbinden. Damals faszinierte mich der Gedanke spekulativer Spezies, also erzeugte ich einige Bilder und Videos imaginärer Arten und spekulierte darüber, wie sie sich unter verschiedenen Bedingungen entwickeln könnten – etwa durch Umweltbelastung oder in toxischen Umgebungen. Regine Rapp, eine der Mitbegründerinnen von Art Laboratory, liebte die Ergebnisse so sehr, dass mir bewusst wurde: Das könnte der Anfang eines neuen Projekts sein. Also sprach ich mit meinen Kolleg:innen aus der Biologie über spekulative Evolutionen und sie schickten mir Studien und Bücher als Inspiration. Ab da entwickelte sich das Projekt stärker aus der wissenschaftlichen Perspektive und ich fing an, zu überlegen: Was, wenn sich diese Lebensformen als Reaktion auf Umweltdruck weiterentwickeln würden?

Wenn du mit kommerziellen Tools arbeitest, gibt es dann welche, die du ethisch in Ordnung findest, und andere, die nicht in Ordnung sind?

Was die Ethik angeht, finde ich sie alle problematisch, weil sie mit aus dem Internet gescrapten Datensätzen trainiert wurden, die sie nicht offenlegen, und weil sie Bilder vieler Künstler:innen ohne deren Einwilligung verwendet haben. Aber was können wir als Künstler:innen tun?

Ein großes Problem mit KI ist, dass kommerzielle Tools in vielen Fällen ästhetisch überzeugender sind. Wenn ich also mehr Kontrolle haben will, etwa um mit meinem eigenen Datensatz zu trainieren oder komplexere Dinge zu machen, nutze ich Open-Source-Modelle. Aber wenn ich dieses konkrete visuelle Ergebnis will, nutze ich leider selber kommerzielle Tools.

Eine letzte Frage: Was sind deine Hoffnungen und Ängste, wenn du auf dystopische und utopische Zukünfte blickst? Was, glaubst du, wird mit KI, Kunst und Kreativität geschehen?

Eine sehr schwierige Frage. Ich glaube, wir bewegen uns als Gesellschaft in eine ziemlich problematische Richtung, weil wir einen ethischen Ansatz und eine Art Rahmen dafür entwickeln müssten, wie wir diese Technologie (weiter)entwickeln. 

Natürlich hat KI all ihre faszinierenden Seiten und kann viele Möglichkeiten eröffnen, kann z.B. in der Genetik eingesetzt werden, um Krankheiten zu heilen oder neue Medikamente zu entwickeln, oder sie kann helfen, neue Planeten zu entdecken. Aber gleichzeitig werden viele ethische Aspekte nicht auf die richtige Weise angegangen, weil es im Moment nur ein Wettrüsten ist. Und was die Politik angeht, sehe ich in vielen Teilen der Welt eine große Verschiebung hin zum sogenannten „digitalen Faschismus”, wo KI ziemlich effektiv für die Manipulation der Massenmeinung, für Überwachung und Propaganda eingesetzt wird. Das ist keine sehr positive Perspektive, tut mir leid.

Das Interview wurde in englischer Sprache geführt.