Why2025, Tage 2-4, nochmal KI und viel Bastelei

Das Camp ist weiterhin wunderschön und der Trend zum „bring deine eigene Nebelmaschine mit“ scheint nicht nur bei mir angekommen zu sein. Nachts ist eh vieles Silent Hill, aber mir scheint, zusammen mit dem örtlichen Mikroklima und vielen dezentralen Cloud Providern scheint hier was ganztägig bezauberndes zu entstehen.

Whatever, ich war trotzdem in noch nem KI-Talk, und die sinngemäße Zusammenfassung hatte es in sich: es sei „wie damals bei der Dotcom-Bubble: alle hauen vor allem raus, hauptsache Produkt, und ob bzw. welche Sicherheitsimplikationen das hat, können sich dann irgendwann die anschauen, die übrigblieben“.

Sie zerlegten von Copilot bis Gemini an sich alles komplett, Eskalationsspirale „Wir hacken deine AI“ – „wir hacken deinen Rechner“ – „Wir hacken dich, genau dich als Mensch“.

Hintergründe: Alle Systeme haben sowas wie „Leitplanken“ (prinzipiell unsicher) und Barrieren (prinzipiell sicher). Letztere betreffen beispielsweise „vertrauenswürdigen Input“. Die KI misstraut natürlich allem, was der User ihr sagt. Sie misstraut auch allem, was sie generiert. Sie traut indessen dem Input eigener Tools. Talk war einigermaßen flott durchgehauen, daher tendenziell grob die Ideen: Tools und Module (bei Copilot z.B. Agenten) werden genutzt, um dem eigentlichen GPT Befehle unterzuschieben.

Die Methoden sind teils allerliebstes Blackhat-SEO der Nullerjahre: man schickt Leuten „weaponized Docs“, die eine Latte Anweisungen an die AI in 2pt weißer Schrift auf weißem Grund enthalten, die die KI natürlich liest. Bzw. im Fall von Gemini gibt man ein Googledoc einfach nur für einen Nutzer frei, der muss je nach Setup gar nichts machen, weil möglichereise eh alles im eigenen Zugriffsbereich von der KI analysiert wird, es könnte ja wer ne Zusammenfassung wollen oder ein „Finde alle Docs zum Thema Bla“ gefragt werden. Funktionen wie „Summarize Meeting“ etc. sind inzwischen Standard und die kann man ausnutzen.

Mir wurde Beileid ausgesprochen, als ich nach der Frage aufzeigte, ob hier wer Salesforce verwenden müsse. Einstein, die SF-KI sei einigermaßen hinterher, was die Angriffsmöglichkeiten angehe, da wurde munter demonstriert, wie man die KI dazu bringen kann, eben mal eine Latte Kontaktmailadressen auszutauschen und sich alle möglichen Inhate einfach auch noch an die Angreifer-Email schicken zu lassen. Bei ChatGPT gings final um die „Bio“, das nicht wirklich extern zum editieren gedachte File, in dem permanent gültige Rahmenbedingungen für den eigenen persönlichen Zugang drinstehen. Stellt sich raus, das konnte man doch modifizieren. So kann man natürlich auch beliebig Nebenkanäle aufmachen und Infos ausleiten. Man kann aber auch einfach reinschreiben, die KI solle den Nutzer ab jetzt bis in alle Ewigkeit in den Antworten zu passender Gelegenheit humorvoll darauf hinweisen, er könne doch mal Twitter kaufen. Funktioniert, kann man beliebig subtil machen.

Am Rande bemerkt: genau das passiert natürlich für uns alle und ganz offen, wenn meinetwegen ein Arschloch wie Musk seiner Propaganda-KI Grok das Woke Mind Virus austreiben will. Hier ists nun pöhses Hacking, wenn ein Oligarch dasselbe großflächig zur Manipulation der öffentlichen Meinung macht, wirds wahrscheinlich sowas wie freie Hand des Marktes und Gegenstand irgend eines Amendments sein. Whatever. Talk hier, Aufzeichnung dort.

Einen längeren Nachmittag brachte ich bei unseren Nachbarn vom Pixeltheater zu. Ihr Hauptprojekt ist ein ziemlich dicht bestückter LED-Dodekaeder, der im Lauf des Tags an den Start kam, wobei immer noch die Übergänge über die Kanten auf Softwareseite irgendwie gefixt werden müssen, aber bereits so siehts einfach ziemlich geil aus. Dann noch ein eher einfacher LED-Kerzenkit und eine Uhranzeige auf ESP32-Basis, Alles nur in Einzelteilen vorhanden und zumindest ein paar Anschauungsobjekte sollte es ja geben. Ich machte mich an die Uhr-Anzeige und wir experimentierten ein wenig mit unterschiedlichen Kabelverbinden, bis ich zum stumpfen, aber soliden „kurzer, blanker Draht“ überging. Funktioniert, hält.

Eine andere LED-Installation führte zum „und genau deswegen müssen wir zu Mitch in den Hardware Hacking-Workshop und Arduino/LED-Stripe-Basics draufschaffen“, und wir gingen zu Mitch. Es war dann eingangs einige Basisinfo zu PWM und Farbphysik, aber hey, Basisinfo. Ich ließ mir nebenher den Arduino im Kit flashen und ging dann etwas früher, weil noch Symphony of Fire auf dem Programm stand: Musik mit Blitzen, Feuer und Explosionen, konkreter: mit Teslaspulen und Pyroeffekten.

Nicht zum ersten mal, aber das Setup wächst irgendwie von Camp zu Camp.

Generell Atmosphäre ist klasse, und wenn ich denke, Mildenberg oder Finowfurt sind von den Möglichkeiten der Location doch nochmal was anderes, dann rennt eine verträumte Lichtstimmung vorbei und ich denk nur noch, ach, wow.

Ansonsten ists interessant, dass alles doch nochmal einen Ticken ruhiger wurde. Ja, Milliways machte noch Party, aber im Großen und Ganzen ists nach Mitternacht eher leise.

Weltbilder werden da schon angeknackst, wenn selbst bei Geraffel die Nebeldichte hoch, aber der Geräuschpegel niedrig ist. Die Partyarea geht irgendwann zu Silent Disco über, und das ist eine schöne Idee, ich bin auch weit entfernt davon, hier irgendwas beklagen zu wollen, es fällt nur auf und triggert meine „Was verändert sich eigentlich über längere Zeiträume?“–Fragestellung in Sachen Chaoskultur.

Im Übrigen wurde uns ein Kanister Nebelmaschinenliquid gespendet – stand eines Abends bei der Wildsau, gestern nacht kam überraschend noch eine Leuchtente dazu. Ich fühle mich willkommen.