37c3&AI: Die besten KI-Vorträge vom Hacker Kongress

Leider konnte ich aus persönlichen Gründen in diesem Jahr nicht persönlich beim 37. Chaos Communication Congress dabei sein. Doch dank des c3voc ist das auch nicht nötig, um die Vorträge von dort zu sehen, denn es finden sich mittlerweile bereits sämtliche Talks vom Kongress auf media.ccc.de. Da ich das Gefühl habe, dass in der Online Marketing Bubble dieser reichhaltige Schatz an unglaublich tiefem Wissen noch garnicht so bekannt ist, habe ich mich dazu entschlossen meine persönliche Auswahl an Talks dieses mal zu verbloggen.

Den Fokus lege ich, wie soll es auch anders sein, auf das Thema generative KI, insbesondere mit Blick auf dessen Auswirkungen auf die Gesellschaft, doch es geht natürlich auch um Sicherheit und Technikfolgenabschätzung.

Wie es sich für einen Hacker-Kongress gehört, mache ich den Anfang mit zwei KI-Hacking-Sessions, doch es sind auch Vorträge dabei, die spannende Gesellschaftliche Themen im Zusammenhang mit dem Thema künstliche Intelligenz beleuchten. Zu den ganzen Dystopien habe ich noch ein paar humoristische oder positive Vorträge zum Aufheitern in die Empfehlungsliste gepackt.

Mir ist klar, dass ihr die Vorträge niemals an einem Tag anschauen könnt, das habe ich auch nicht. Daher empfehle ich diesen Beitrag zu bookmarken und in den nächsten Wochen immer mal wieder einen Vortrag in Ruhe anzuschauen!

Viel Spaß!

???????? Hacking Neural Networks – Eine Einführung in das Hacking von Neuronalen Netzen

Jannes Queer führt die Zuhörer in die Welt der Neuronalen Netze und deren mögliche Schwachstellen ein. Er zielt darauf ab, ein grundlegendes Verständnis für die Funktionsweise und die aktuellen Angriffsmethoden auf Neuronale Netze zu vermitteln. Dabei wird eine Bandbreite von Techniken wie LastLayer Attack, Back-Dooring, Information Extraction, Brute Forcing, Neural Overflow, Malware Injection, Neural Obfuscation und Model Stealing beleuchtet. Jate demonstriert einige dieser Angriffe live, um zu zeigen, wie sie ausgenutzt werden können und welche Informationen dabei gefährdet sind. Neben der Vorstellung dieser Angriffsmethoden diskutiert der Vortrag auch mögliche Abwehrstrategien, obwohl diese oft nur einen teilweisen Schutz bieten. Insgesamt bietet der Vortrag einen umfassenden Einblick in die aktuellen Forschungsthemen und praktischen Herausforderungen im Bereich des Hacking von Neuronalen Netzen.

???????? KI – Macht – Ungleichheit. – Was ist die soziale Dimension von Nachhaltigkeit und warum ist sie durch KI gefährdet?

Rainer Mühlhoff beleuchtet die dunklen Seiten der künstlichen Intelligenz und deren Einfluss auf soziale Ungleichheit und Nachhaltigkeit. Er argumentiert, dass der Fokus auf den Ressourcenverbrauch von KI zu kurz greift und dass wir stattdessen die sozialen und ökonomischen Auswirkungen dieser Technologie betrachten müssen. Mühlhoff hebt hervor, dass KI auf der globalen Ausbeutung von sozialen und natürlichen Ressourcen beruht und diskutiert die Rolle von KI in der algorithmischen Diskriminierung, sozialen Selektion und der Schaffung eines neuen digitalen Kolonialismus. Er fordert eine bessere Regulierung von KI-Systemen, um den Zielen der Nachhaltigkeit gerecht zu werden und sozialer Ungleichheit entgegenzuwirken. Der Vortrag bietet tiefe Einblicke in die Notwendigkeit, KI-Systeme als soziotechnische Systeme zu verstehen und zeigt auf, wie sie globale Ungleichheit und Ausbeutung verschärfen können.

???????? Unsere Worte sind unsere Waffen – Wie wir Chatbots allein mit kreativer Wortfindung so manipulieren können, dass sie uns dienen (ja, social engineering funktioniert bei großen Sprachmodellen!)

Eva Wolfangel erforscht in dieser fesselnden Sitzung, wie Sprache, eine unserer mächtigsten menschlichen Fähigkeiten, genutzt werden kann, um große Sprachmodelle zu manipulieren und für unsere Zwecke einzusetzen, oft auf Weisen, die ursprünglich nicht beabsichtigt waren. Sie beleuchtet die dunklen Seiten dieser Technologien, einschließlich ihrer Biases und der Potenziale für Machtmissbrauch, und zeigt auf, wie wir diese mit unseren eigenen Fähigkeiten überwinden können. Mit Beispielen aus ihren eigenen investigativen Recherchen illustriert Wolfangel, wie sie Chatbots durch Social Engineering dazu gebracht hat, geheime Informationen preiszugeben und bei der Aufdeckung versteckter Daten zu assistieren. Die Zuhörer:innen werden nicht nur unterhalten, sondern lernen auch praktische Tricks für ihre eigenen Recherchen und Strategien zum besseren Schutz ihrer persönlichen Daten.

???????? NEW IMPORTANT INSTRUCTIONS – Real-world exploits and mitigations in Large Language Model applications

In diesem fesselnden Vortrag von Johann Rehberger dreht sich alles um die realen Risiken, die mit der raschen Entwicklung von KI und Großen Sprachmodellen (LLM) einhergehen. Es werden diverse Exploits und Schwachstellen aufgezeigt, die in gängigen LLM-Anwendungen wie ChatGPT, Bing Chat und Google Bard gefunden wurden, sowie die von den Anbietern implementierten Gegenmaßnahmen. Der Fokus liegt auf der Demonstration, wie mächtig, aber auch wie anfällig maschinelles Lernen sein kann, insbesondere wenn ein Angreifer in den Prozess eingreift.

Der Vortrag beginnt mit einer Einführung in LLMs, erläutert deren Funktionsweise und geht auf verschiedene Techniken der Prompt-Engineering ein. Dabei wird besonders auf die Bedeutung des Kontextfensters und dessen Ausnutzung für Gesprächsfortführung in Systemen wie ChatGPT eingegangen. Anschließend werden realweltliche Beispiele und Exploits vorgestellt, unterteilt in Kategorien wie Fehlausrichtungen, Jailbreaks/Direkte Prompt-Injektionen und Indirekte Prompt-Injektionen. Hierbei wird besonders auf indirekte Prompt-Injektionen eingegangen, bei denen unzuverlässige Daten in den Chat-Kontext eingefügt werden, und wie dies zu Fehlinterpretationen und Missbrauch führen kann. Der Vortrag vertieft schließlich die Taktiken, die Angreifer nutzen können, um LLMs auszutricksen, einschließlich der Verwendung von Verschlüsselung oder Sprachwechsel.

Mein absolutes Highlight ist die einfache Erklärung in der Einleitung des Vortrag was Prompt Engineering ist und wieso wir das trotz RLHF, Alignment und Co. wahrscheinlich auch noch in den kommenden Jahren brauchen, wenn auch weniger.

???????? Lass mal das Innere eines Neuronalen Netzes ansehen!

In einer Welt, in der künstliche Intelligenz immer mehr an Bedeutung gewinnt, entmystifiziert Annika Rüll in ihrem Vortrag die oft missverstandenen Neuronalen Netze. Sie bietet eine anschauliche Erklärung ihrer Funktionsweise, betont dabei, dass diese nur wenig mit menschlichen Gehirnen gemeinsam haben, und öffnet die metaphorische Black Box, um zu zeigen, wie Neuronale Netze Entscheidungen treffen. Rüll geht auf die politischen und ethischen Implikationen erklärbarer KI ein und beleuchtet, inwieweit diese umsetzbar sind. Sie thematisiert, wie diese Netze manchmal „schummeln“, um Vorhersagen zu treffen, und wie sie wiederum ausgetrickst werden können. Der Vortrag zielt darauf ab, ein fundiertes Verständnis von maschinellem Lernen zu schaffen und lädt die Zuhörer ein, kritisch über die Möglichkeiten und Grenzen von KI, einschließlich der Frage nach einem Bewusstsein, nachzudenken.

???????? Synthetic Sentience – Can Artificial Intelligence become conscious?

Trotz des rasanten Fortschritts der KI-Fähigkeiten bleibt die Kernfrage der künstlichen Intelligenz scheinbar unbeantwortet: Was ist nötig, um einen Geist zu erschaffen? Dieser Vortrag erkundet die Grenzen der KI: Empfindungsfähigkeit, Selbstbewusstsein und die Möglichkeit des Maschinenbewusstseins.

Nach vielen Versuchen, KI-Modelle zu entwickeln, die intelligenter als Menschen sind, stehen wir nun einer Familie von überraschend erfolgreichen Systemen gegenüber, die viele unserer Fähigkeiten durch Textvorhersage und Text/Bild-Korrelation nachahmen. Die Grenzen dieser Ansätze sind gegenwärtig unklar, und obwohl sie auf sehr unterschiedliche Weise funktionieren als unsere Gehirne, stellen sie die Frage, ob Bewusstsein, Verkörperung und Motivation notwendig sind, um allgemeine Intelligenz zu erreichen. Was sind die Unterschiede zwischen menschlichen (und tierischen) Geistern und der aktuellen Generation von KI-Modellen? Wenn wir Perspektiven auf Geist und Bewusstsein, die in der Neurowissenschaft, Philosophie des Geistes, theoretischen und therapeutischen Psychologie sowie zahlreichen kulturellen Traditionen entwickelt wurden, betrachten und in die Metaphysik und konzeptuellen Rahmenwerke der künstlichen Intelligenz übersetzen, könnten wir Einblicke in diese Frage gewinnen.

???????? Alternativlos, Folge 52 – Künstliche Intelligenz

Nicht vom 37c3 aber aus dem CCC-Umfeld: In diesem Zusammenhang muss ich außerdem auf die letzte, unfassbar interessante Folge 52 des Alternativlos-Podcasts von Frank & Fefe hinweisen. Darin haben die beiden sich mit Joscha Bach (siehe Folge 42) über künstliche Intelligenz unterhalten.

Selten durfte ich einem derart intelligenten Menschen (Joscha) bei seinen Überlegungen zu KI und deren Zukunft zuhören. Eine absolute Hörempfehlung, allerdings definitiv nichts für „nebenbei“. Ich habe den Podcast schon zweimal gehört und werde noch einen weiteren Durchlauf samt Pausieren, Googlen, verstehen, brauchen, um das Gesagte in seiner Tiefe wirklich zu begreifen!

???????? Rettet uns die KI? – Über die Zukunft der digitalen Inklusion

Casey Kreer beleuchtet die Rolle generativer KI-Systeme wie ChatGPT und Midjourney in der digitalen Barrierefreiheit. Diese Technologien versprechen, den Alltag von Menschen mit Behinderungen durch innovative Lösungen zu erleichtern, beispielsweise durch die Generierung von Alternativtexten für sehbehinderte Nutzer:innen oder Texte in Leichter Sprache für Menschen mit Lernbehinderungen. Doch trotz des Potenzials dieser KI-Systeme weist Kreer auf neue Herausforderungen hin, wie reproduzierten Ableismus und neue unsichtbare Barrieren, die die Inklusion beeinträchtigen können. Als Beraterin für digitale Barrierefreiheit und selbst sehbehindert, spricht sie aus Erfahrung und fordert eine kritische Begleitung der Entwicklung von KI-Tools, um eine wirklich inklusive digitale Zukunft zu gewährleisten.

Der Vortrag bietet einen unverfälschten „Reality Check“ und einen authentischen Einblick in den Alltag von Menschen mit Behinderung, diskutiert Möglichkeiten und Herausforderungen und betont die Notwendigkeit, technologischen Fortschritt mit menschlicher Vielfalt in Einklang zu bringen.

???????? KI im Klassenzimmer – ein Update! – Wie KI in der Schule wirklich entlasten könnte

Nina Galla beleuchtete in ihrem Vortrag die wachsende Rolle von Künstlicher Intelligenz in der Bildung. Sie knüpfte an ihre früheren Ausführungen von der #rC3 2020 (leider nicht online) an und skizzierte, wie KI nach dem Hype um ChatGPT nun realistisch Lehrkräfte entlasten könnte. Galla betonte die Bedeutung einer geplanten und wohlüberlegten Implementierung von KI in Schulen, um tatsächliche Entlastung zu erzielen.

Sie ging auf die Kooperationen zwischen Bundesländern, Schulen und EdTech-Unternehmen ein, die bereits mit Learning Analytics-Programmen und Intelligenten Tutor Systemen experimentieren. Galla hob hervor, dass trotz der technologischen Fortschritte die rechtliche Absicherung für den Einsatz von KI in Schulen noch aussteht. Sie informierte über die bald in Kraft tretende KI-Verordnung aus Brüssel, welche rechtliche Klarheit schaffen und den Rahmen für den sicheren und effektiven Einsatz von KI in Bildungseinrichtungen festlegen soll.

Abschließend diskutierte sie die technischen und pädagogischen Herausforderungen, die mit dem Einsatz von KI im Bildungsbereich einhergehen, und betonte, dass nur durch sorgfältige Planung, Beschaffung und Begleitung von KI-Technologien echte Entlastungseffekte erzielt werden können.

???????? Self-cannibalizing AI – Artistic Strategies to expose generative text-to-image models

Bei der Betrachtung generativer KI-Modelle, speziell der Text-zu-Bild-Modelle, tauchen Fragen über die Eigenheiten und Grenzen dieser Technologien auf. Dieser Vortrag entfaltet eine tiefgehende Analyse dieser Modelle, beginnend mit einem allgemeinen Verständnis aus der Perspektive von Künstlern und Programmierern. Er beleuchtet die Stable-Diffusion-Pipeline und stellt fest, dass viele Modelle auf ähnlichen, begrenzten Datensätzen und Algorithmen beruhen. Besonders bemerkenswert ist die Erkenntnis, dass große Datensätze mittels ästhetischer Vorhersagealgorithmen gefiltert werden, was zu einer starken Tendenz hin zu bestimmten Kunststilen führt und Fragen bezüglich der Diskriminierung aufwirft.

Der Vortrag geht auch auf die Contrastive Language-Image Pre-training (CLIP) Technologie ein, die Bilder und Texte verbindet, und deckt auf, wie diese auf großen Mengen von Text-Bild-Paaren basierenden Modelle möglicherweise Verzerrungen in die Datenbank einführen. Experimente mit „falschem Labeling“ enthüllen interessante Korrelationen, wie die Identifizierung des „glücklichsten“ Gesichts oder ethnischer Zugehörigkeiten auf Grundlage generierter Bilder.

Abschließend widmet sich der Vortrag der eigentlichen Bildgenerierung, insbesondere der Stable Diffusion Pipeline. Dabei wird aufgezeigt, wie generative KI-Modelle nicht nur Bilder aus Textbeschreibungen erzeugen, sondern auch vorhandene Bilder verarbeiten können. Dies führt zu der Erkenntnis, dass sich Bilder durch wiederholte Iterationen zunehmend in vorhersehbare Muster oder Farben verwandeln, was Fragen nach den inhärenten Tendenzen und Limitierungen dieser Modelle aufwirft.

???????? AlphaFold – how machine learning changed structural biology forever (or not?) – Getting first-hand insights into the impact of machine learning on life science

Im Jahr 2020 erschütterte eine besondere Ankündigung die wissenschaftliche Gemeinschaft: Google und ihr neuronales Netzwerk „AlphaFold“ triumphierten überraschend beim renommierten Wettbewerb zur Proteinstruktur-Vorhersage, dem Critical Assessment of Protein Structure Prediction (CASP). Dieser Sieg löste eine Welle der Begeisterung in der strukturellen Biologie aus und zog sogar die Aufmerksamkeit der Mainstream-Medien auf sich, mit Berichten, die 2020 als das Jahr kennzeichneten, in dem Maschinen begannen, uns in der Forschung zu überholen.

In seinem fesselnden Vortrag taucht Jan Gebauer in die Hintergründe dieser bahnbrechenden Entwicklung ein und bewertet den Einfluss des maschinellen Lernens auf die Wissenschaft, insbesondere auf die strukturelle Biologie. Nachdem Google 2021 die Methodik und den Quellcode von AlphaFold veröffentlichte, adaptierten Wissenschaftler weltweit das Tool, sodass nun fast jeder ohne Vorkenntnisse eigene Proteinstrukturen vorhersagen kann. Zwei Jahre nach seiner öffentlichen Veröffentlichung hat sich AlphaFold als unverzichtbares Werkzeug etabliert, obwohl wir mittlerweile auch seine Grenzen erkennen.

Der Vortrag beleuchtet AlphaFold und ähnliche maschinelle Lernverfahren, ihren Einfluss auf die Wissenschaft und insbesondere die strukturelle Biologie. Um ihre Bedeutung zu würdigen, erkunden wir die Rolle von Proteinstrukturen und deren Einfluss auf unseren Alltag. Wir betrachten, wie Proteinstrukturen vor AlphaFold gelöst wurden, und diskutieren die Konzepte der Proteinevolution, um die biologischen Grundlagen dieser Durchbrüche zu verstehen. Darüber hinaus werden die Feinheiten des neuronalen Netzwerks selbst und die notwendigen Trainingsdaten für seine beeindruckenden Fähigkeiten erörtert. Anhand von realen Beispielen aus der Praxis wird illustriert, wo AlphaFold Erfolge erzielt hat und wo es auf Herausforderungen stieß. Abschließend wagt Jan Gebauer einen Blick in die Zukunft und spekuliert über den potenziellen Verlauf dieser wissenschaftlichen Reise und ihre Fähigkeit, die Wissenschaft und unsere Herangehensweise an sie zu transformieren.

???????? A NEW HOPE – Ein Pep Talk für alle, die gerade verzweifeln

In diesem Vortrag tauchen Ruben Neugebauer, Johannes Bayer, Linus Neumann, Carla Reemtsma, Arne Semsrott, Lara Eckstein, Thomas Lohninger, Helena Steinhaus, Pia Klemp, Ela, Kirsten Rautenstrauch, Sebastian Jünemann und Tareq Alaows tief in die gegenwärtigen globalen Krisen ein. Die Klimakrise, politische Unruhen und die Auswirkungen der Digitalisierung auf die Gesellschaft werden thematisiert. Aktivist:innen, die sich gegen diese multiplen Krisen stemmen, teilen ihre Perspektiven und Hoffnungen. Sie berichten von ihren täglichen Kämpfen und Misserfolgen in verschiedenen Bereichen – von der Pflege und dem Datenschutz bis hin zum Straßenprotest. Diese Session bietet nicht nur eine Analyse der momentanen Lage, sondern zielt darauf ab, gemeinsam neue Strategien und Bündnisse zu schmieden, um Teilerfolge zu feiern und sich gegenseitig Mut zu machen. Ein inspirierender Austausch für alle, die in diesen herausfordernden Zeiten nach Hoffnung suchen.

???????? Fortbildung Cyber-Astrologie & KI-Karma – Mit Teilnahmeurkunde zum Selbstausdrucken

Zum Schluss möchte ich noch den ironischsten und kreativsten Vortrag des diesjährigen Chaos Communication Congress vorstellen: Katharina Nocuns „Fortbildung Cyber-Astrologie & KI-Karma – Mit Teilnahmeurkunde zum Selbstausdrucken“ war ein absolutes Highlight in diesem Jahr.

In diesem satirischen Seminar werden Teilnehmende in die Welt der digitalen Esoterik eingeführt. Sie lernen, wie man mit fragwürdigen Techniken aus der Esoterik-Szene, wie Digital Forecasting und Healing statt Patching, auf dem boomenden Markt für Digital-Spiritualität Fuß fasst. Zusätzlich werden innovative Konzepte wie belebte Netzwerke und Mental-Antivirus präsentiert, die auf homöopathischer Basis und feinstofflicher Unterstützungssoftware basieren. Als Bonus verspricht der Vortrag sogar einen limitierten feinschwingenden 5G-Sticker für die ersten Anmeldenden. Dieser Vortrag ist ein Muss für alle, die einen humorvollen Blick auf die Schnittstelle von Technologie und Okkultismus werfen wollen.

???????? Fnord-Jahresrückblick-Rückblick: 20 Jahre Fnord-Jahresrückblick!

Wie (mit Ausnahme der Corona-Jahre) in jedem Jahr, bringt der Fnord-Rückblick Struktur in die sich immer bizarr anfühlenden Welt, verteilt renommierte Awards und sucht nach den leichteren Momenten in der allgemeinen Flut aus schlechten Nachrichten. In dieser Ausgabe feiern Frank und Fefe außerdem ihr 20. Jubiläum, weshalb sie etwas weiter zurückblickten.

???????? Security Nightmares

Kein KI-Vortrag im eigentlichen Sinne, aber die Rückschau auf das, was sich im letzten Jahr im Bereich IT-Sicherheit getan hat mit Frank und Ron lohnt sich immer! Welche neuen Entwicklungen haben sich ergeben? Welche neuen Buzzwords und Trends waren zu sehen?

Wie immer wagen die beiden unterhaltsam den IT-Security-Alptraum-Ausblick auf das Jahr 2024 und darüber hinaus. Im Zuge von noch mehr Transparenz, Kritik & Selbstkritik und kontinuierlicher nachhaltiger Optimierung aller Prozesse wurden diesmal auch frühere Voraussagen hinsichtlich des Eintreffens der Weissagungen geprüft.

???????? Hurra, diese Welt geht unter!? – Welche kollektiven Erzählungen brauchen wir, um in der Klimakrise handlungsfähig zu sein?

Ein bewusst provokativer und tiefgreifender Vortrag, der die drängenden Fragen unserer Zeit aufgreift. Die Referenten Elenos, mischko, Daniel Domscheit-Berg und Becci stellen fest, dass die aktuellen kollektiven Narrative vom unendlichen Wachstum und der technologischen Unsterblichkeit in der heutigen Welt, in der Ökosysteme zusammenbrechen und Artensterben realer wird, nicht mehr greifen. Sie betonen die Notwendigkeit, neue Erzählungen von Endlichkeit und Verletzlichkeit zu entwickeln, die uns nicht lähmen, sondern zum Handeln motivieren.

Durch die Einbindung von zwei Aktivist:innen, die aus unterschiedlichen Perspektiven – Letzte Generation und Solarpunk – ihre Sicht auf die Klimakrise darlegen, wird ein breites Spektrum an Ideen und Ansätzen präsentiert. Sie beleuchten die Rolle des menschlichen Selbstbildes, der Technologie und der Körperlichkeit in ihren Erzählungen und wie diese Faktoren unsere Fähigkeit beeinflussen, auf die Klimakrise zu reagieren. Der Vortrag ist nicht nur eine kritische Auseinandersetzung mit den vorherrschenden Geschichten unserer Zeit, sondern auch ein konstruktiver Aufruf zum Handeln und zum Erzählen neuer Geschichten, die eine nachhaltige, gerechte und emanzipative Zukunft ermöglichen.

+ 7 weitere empfehlenswerte Vorträge vom 37c3

Leider gibt es das unterhaltsame Hacker-Jeopardy seit einigen Jahren nicht mehr auf dem Kongress, doch für alle, die noch nicht genug von interessanten Vorträgen haben, hier noch weitere empfehlenswerte Vorträge:

• Och Menno – Military Grade Bullshit
• Science Slam – Weltrettung braucht Wissenschaft
• Das Recht auf Selbstverteidigung im modernen Völkerrecht
• Ist die Demokratie noch zu retten? – Politikwissenschaftliche Demokratieforschung in der Krise
• Hacking the Climate – Mit Climate Engineering raus aus der Klimakrise?
• Social Engineering: Geschichte, Wirkung & Maßnahmen.
• Chatkontrolle – Es ist noch nicht vorbei!