Am Mittwoch, dem 28. Januar, fand die letzte Veranstaltung in unserer Reihe „KI: Macht, Mythen, Missverständnisse“ statt. In unseren vorherigen Posts haben wir einige der widerlegten Mythen genauer betrachtet. Nun ist es an der Zeit darüber zu schreiben, was wir aus den ersten Veranstaltungen der Reihe gelernt haben.
Erstens: Menschen haben ein echtes Bedürfnis danach, in einem vorurteilsfreien Raum über KI, ihre Auswirkungen sowie über die Mythen und Erzählungen zu sprechen, denen sie in ihrem Alltag begegnen. Das ist zum großen Teil Julia Kloiber zu verdanken, die ein Format geschaffen und moderiert hat, in dem sich Menschen mit ganz unterschiedlichem Vorwissen wohl genug fühlten, um ihre Gedanken offen auszusprechen.
Ein Beispiel: Nachdem Frederike Kaltheuner und ich (Zara Rahman) mit kurzen Vorträgen ins Thema eingeführt hatten, fragte jemand nach der kürzlich veröffentlichten „Verfassung” für Claude, das generative KI-Produkt von Anthropic. Ursprünglich habe er diese Verfassung für eine gute Sache gehalten – es bedeute, dass die Entwickler ganzheitlich über die sozialen Auswirkungen von Claude nachdenken. Aber nachdem er unseren Inputs gelauscht hatte, fragte er sich, ob diese „Verfassung” vielleicht doch doch keine so gute Sache ist?!
(Meine Antwort auf die Frage war: Eine „Verfassung“ für ein Technologieprodukt ist ein fantastisches Beispiel für die Schaffung eines Mythos, in dem generative KI viel mehr ist als nur ein Technologieprodukt. Der Mythos impliziert, dass das KI-System Rechte besitzt und genauso viel Einfluss haben kann wie echte Länder. Und außerdem: Der Versuch, ein solches Narrativ zu etablieren, macht es ganz sicher nicht wahr.)
Zwischen Wunsch und Wirklichkeit
Zweitens: Entgegen der Darstellung, die ich oft in Mainstream-Medien lese, waren die Teilnehmenden sowohl sehr offen für unsere Beiträge als auch ziemlich kritisch gegenüber der Rolle von KI. Natürlich gab es eine gewisse Selbstselektion – wer an einem dunklen Januarabend bei Minustemperaturen sein Haus verlässt, um sich über KI-Mythen zu informieren, muss schon sehr am Thema interessiert sein. Aber trotzdem war es großartig zu sehen, wie kritisch alle schon über KI nachdachten. Mein Eindruck ist, dass „die Öffentlichkeit“ insgesamt einen eher schlechten Ruf dafür hat, wie sie sich mit KI oder Technologie auseinandersetzt. Das ist meiner Erfahrung nach ungerechtfertigt.
Diese Unterschätzung habe ich am Tag nach der Veranstaltung am eigenen Leib erfahren. Begeistert erzählte ich jemanden von unserer Diskusison und noch bevor ich ausführen konnte, wie überraschend kritisch und zugleich unsicher die Teilnehmenden gegenüber KI waren, unterbrach er mich mit einer etwas herablassenden Bemerkung, „die Öffentlichkeit“ könne solche komplexen Themen ohnehin nicht verstehen. Ich stimme mit dieser Sichtweise nicht überein: Die meisten Menschen (vor allem diejenigen, die schon einmal eine Art von Machtungleichgewicht, Marginalisierung oder struktureller Ungleichheit erlebt haben) sind sehr wohl in der Lage, die Auswirkungen von Machtkonzentration zu verstehen und das Geschehen kritisch zu bewerten. Die Tatsache, dass sie dann aber Entscheidungen über Technologie treffen, die nicht mit ihren Werten übereinstimmen, sagt mehr darüber aus, wie wir, die wir in diesem Bereich arbeiten, mit unserer Kommunikation scheitern, und wie wenige tragfähige Alternativen zu den großen Techunternehmen es gibt.
Ein weiteres Beispiel: Nachdem er uns etwa eine Stunde lang zugehört hatte, meldete sich ein älterer Mann zu Wort und sagte sinngemäß: „Aber alles, was Sie beschreiben, klingt nicht nach technischen Problemen, sondern nach gesellschaftlichen Problemen. Die lassen sich doch unmöglich mit Technik lösen, oder?“ (Ich war so froh, das zu hören, denn genau das ist der Punkt!)
Wir müssen reden – wir wollen reden!
Und drittens: Die Veranstaltungsreihe hat viel mehr bewirkt als „nur“ Diskussionen über KI Raum zu geben. Es gab Leute, die zu allen drei Veranstaltungen gekommen sind, sich gegenseitig wiedererkannten und in der Pause miteinander plauderten und am Ende laut fragten: „Wo sehen wir uns nächste Woche wieder?“
Das war eine Ergebnis der Veranstaltungen, das ich zugegebenermaßen nicht vorhergesehen hatte. In Zeiten von wachsendem Autoritarismus und schwächer werdender Demokratie scheint es mir unschätzbar wertvoll, wenn wir Räume erschaffen, in denen Menschen Beziehungen zueinander aufbauen können, fast unabhängig davon, über welches Thema wir dort sprechen. Dass wir die Möglichkeit hatten, die Öffentlichkeit in eine kritische Diskussion über KI einzubeziehen, ihren Erfahrungen zuzuhören und einen Ort zu schaffen, in dem die Teilnehmenden ihre Beziehungen untereinander stärken konnten, das macht mich wirklich glücklich.
Durch die Veranstaltung habe ich auch einen neuen Begriff gelernt: KI-Grütze. Im Englischen (oder Denglischen) sagen wir „AI Slop“. Inhalte, die mit KI in großer Menge produziert werden (ähnlich wie Spam, auch „digital clutter“ genannt) und oft realistisch wirken (z. B. E-Mails mit den richtigen Worten), aber eigentlich nichts Sinnvolles aussagen. KI-Grütze ist auch der Grund, warum laut einem Bericht des MIT Media Lab, „95 % der Organisationen [, die in generative KI investiert haben,] keinen messbaren Return on Investment sehen”.
Alles gesagt? Bei weitem nicht!
Was während der Workshop-Reihe (die wir fortsetzen werden!) deutlich wurde, ist der enorme Aufwand, der betrieben wird, um große Mythen rund um KI zu schaffen. Das ist kein Zufall: Diejenigen, die von den Investitionen in KI profitieren, wissen, dass sie kein tragfähiges Geschäftsmodell haben. Deshalb tun sie ihr Bestes, um andere (und sich selbst) davon zu überzeugen, dass KI wirklich eine bahnbrechende Neuerung ist. Und obwohl es durchaus sinnvolle Anwendungsbereiche für speziell entwickelte KI-Systeme gibt (schnelle Übersetzung, Verbesserung der Barrierefreiheit, spezifische Programmieranwendungen und mehr), sind die großen Mythen und Legenden, die uns verkauft werden, eben genau das: Geschichten.