Der Begriff Künstliche Intelligenz, kurz KI, ist derzeit in aller Munde. Das Sprachmodell ChatGPT der Firma OpenAI ist momentan besonders präsent. KI-Systeme arbeiten mit neuronalen Netzen und lernenden Algorithmen, um Ergebnisse zu generieren. Derartige Werkzeuge in den Händen von Megakooperationen werden unabschätzbare Folgen für unsere Gesellschaft haben. Wir können uns nicht entscheiden, ob wir diese Herausforderung annehmen wollen.
Also haben wir diskutiert. Was sind konkrete Bedrohungen, die wir jetzt schon absehen können? Und was sind konkrete konstruktive Dinge, die wir nun angehen müssen?
Beispiele wie das generierte Foto der Verhaftung von Donald Trump haben bewiesen: KIs beschleunigen die Erstellung von sehr plausiblen Desinformationen.
Außerdem sind Sprachmodelle vor allem darauf optimiert, dass sie die durschnittliche Meinung und Bias ihrer Trainingsdaten verstärken. Dies schafft weitere systemische Nachteile für differenzierte und marginalisierte Stimmen.
Daraus ergibt sich die Notwendigkeit, noch viel mehr in politische Bildung zu investieren:
Menschen müssen lernen Quellen zu hinterfragen.
Menschen müssen verstehen, wie KIs funktionieren und, was sich damit anstellen lässt.
Daher müssen wir unsere Expertise einer breiten Masse zugänglich machen. Das braucht verständliche Wissenschaftskommunikation, die Menschen auch außerhalb unserer Zielgruppe erreicht.
Eigentlich braucht es die Sendung mit der Winkekatze. Und zwar 20:15 Uhr in der ARD. Wir erhoffen uns, dass durch mehr politische Bildung, Menschen fähig sind, die Tragweite von KI zu verstehen. Wir finden es wichtig, dass Menschen Quellen hinterfragen können, um unterscheiden zu können, was von einer KI erzeugt wurde und was nicht. Hier könnte auch eine Kennzeichnungspflicht von KI-generierten Inhalten helfen. und deren Quellen zu hinterfragen. Alles in allem muss der Gesellschaft eine verständliche Wissenschaftskommunikation angeboten werden.
In unserer Diskussion zeigt sich, dass wir auch den Rechtsstaat in die Verantwortung nehmen müssen. Das heißt, wir brauchen einen politischen Rahmen, allen voran Gesetze, die KI zu unserem Gemeinwohl und nicht für den größten Profit von Unternehmen regulieren. Im gleichen Sinne müssen wir die Demokratie stärken. Wir fordern daher Transparenzpflichten, um etwa zugängliche und transparente Datensätze bereitzustellen. Wir sehen auch unsere Community in der Verantwortung, mehr Kenntnisse zu vermitteln, wie wir Förderungen (???) konkret umsetzen können. Wir wollen uns gegenseitig mehr supporten und Anreize für politische Arbeit schaffen, damit diese Anklang finden.
KI zerstöre Arbeitsplätze - so lautet eine weit verbreitete Annahme. Wir sehen diese Gefahr und sorgen uns, dass KIs Menschen Arbeitsplätze und damit leider auch Lebensgrundlagen streitig macht. Es wird ein Umbruch passieren und Menschen werden dabei verlieren. Dennoch finden wir es wichtig zu differenzieren: Welche Arbeitsplätze sind gefährdet und welche können sogar neu erschaffen werden? Hierbei ist es notwendig die Diskussion über Arbeitsplätze differenziert zu betrachten. Womöglich benötigen wir weniger Graphik-Designer*innen, dafür aber mehr Click-Worker, um nur ein Beispiel zu nennen. Wir stellen uns die Frage, inwiefern ob es überhaupt immer schlecht ist, dass Arbeitskräfte wegrationalisiert werden. Schließlich gibt es in einem kapitalistischen, neoliberalen System so einige „Bullshit-Jobs“, die womöglich sowieso unnötig sind. Das führt uns zu der politischen Forderung des bedingungslosen Grundeinkommens oder anderen vergleichbaren Alternativen - auch wenn wir hier keinen Konsens finden konnten. Wichtig ist uns, dass wir KI entmystifizieren. Anstelle einer allmächtigen KI, die über uns steht, begreifen wir uns als autonome Subjekte, die KI als Werkzeug nutzen kann - wenn auch als revolutionäres Werkzeug. Wenn wir verstehen, wie KI funktioniert, können wir selbstbestimmt handeln. Wir sollten der KI nicht ohnmächtig gegenüber stehen, sondern können bestenfalls selbst mitbestimmen, wie sie unseren Arbeitsalltag beeinflusst. Auch hier schlägt sich wieder die Brücke vom Technischen zum Politischen.
In unserer Diskussionen haben wir uns überwiegend mit Large Language Modelle (LLM) beschäftigt, also mit Sprachmodellen, die mit großen Datensätzen trainiert worden sind. Wir erkennen, dass nur wenige Menschen sind an der Entwicklung der Technologie beteiligt. Bisher ist die Mehrheit der Menschen von der Arbeit und Supervision der Technologie ausgeschlossen. Das heißt, wir verstehen oft nicht, wie KI funktioniert und können die Prozesse nicht einsehen. Dazu kommt, dass Menschen KI für Prozesse benutzt, für die sie nicht primär designt worden ist. Durch eine unmündige Übernahme der Erzeugnisse einer KI, besteht das Riskio, ungenaue oder gar falsche Ergebnisse zu übernehmen. Wir sehen es auch problematisch, dass bei KI-Systemen bestimmte Inhalte entfernt, also zensiert werden. Das sogenannte Gatekeeping führt dazu, dass bestimmte Meinungen nur eingeschränkt oder gar nicht zugänglich sind. So nimmt das Unternehmen OpenAI mit ihrer Software ChatGPT eine Gatekeeperposition ein, indem es…
Wir fordern, dass kleinere Organisationen mit eigenen KI-Modellen durchaus datenschutzkonforme Anwendungen bereitstellen und keine Daten herausgeben müssen. Wir wünschen uns, dass diese KI-Systeme kostenlos bleiben. Die API von OpenAI kostet pro Token, was man umgehen könnte, wenn man solche Anwendungen dezentral selbst hostet. Wir möchten das große Feld „KI“ in Zukunft nicht Megacorps überlassen.
Fast Ai Takeoff: die erste wirklich schlaue AI wurde in kurzer Zeit sehr viele weitere Fortschritte ermöglichen
Auch wenn wir KI selbst bauen, bleibt KI zu einem bestimmten Grad eine „Blackbox“, also ein System, dass wir nicht komplett einsehen und kontrollieren können. KI trägt folglich das Riskio Bullshit zu generieren. Das heißt auch, je mehr Leute Zugang zu KI-Systemen haben, desto mehr kommen Menschen darauf sie für Dinge zu verwenden, die nicht überschaubar sind. Außerdem kann KI auch Wissen hervorbringen, das Menschen Zugang zu Waffenbau, Drogen, Atombomben, etc. verschafft. Die eigentliche Frage ist: Wie schädlich ist Information?
Uns ist bewusst, dass Computer, Datensets und KnowHow eine große Starthürde darstellen und es Personen erschweren, eine eigene KI zu bauen oder Anwendungen zu hosten. Außerdem stellt das Urheberrecht KI eine Herausforderung dar. Wir empfehlen dazu den Podcast Rechtsbelehrung: Rechtsbelehrung Folge 113 KI und Urheberrecht.
Wir haben uns gefragt, wie und ob wir beim AI Act einwirken können. Wir könnten uns etwa anschauen, wie die Gesetzesvorschläge auf EU-Ebene zum Thema KI aussehen. Wir sollten uns auch mit der Frage beschäftigen, über welche Plattformen wir einwirken können.
Machine learning sind spannende und herausfordernde Werkzeuge