Black Hat 2023 und Def Con 31: Von KI bis ANSI Escape
Dumme KIs, die alles glauben, was sie im Internet finden, lassen sich auf vielfältige Weise manipulieren. Daraus erwachsen für die IT-Sicherheit neue Herausforderungen. Doch auch in Techniken aus der Internet-Vorzeit steckt noch viel Potenzial für kreative Hacks.
Zum 26sten Mal begrüßte Jeff Moss, der Gründer der Black-Hat-Konferenz, Sicherheitsexperten aus aller Welt im Mandalay-Bay-Konferenzcenter in Las Vegas. Den Ton an gab auf der Black Hat USA 23 aber eine KI, die den menschlichen Ansager der letzten Jahre ablöste. Auch inhaltlich spielte KI in den Briefings und über 100 Vorträgen eine gewichtige Rolle, vor allem in Form von Large Language Models (LLMs) wie ChatGPT. Nach Jeff Moss wird man um das Thema KI nicht mehr herumkommen, doch könne man nur dann massiv von KI profitieren, wenn der Schwenk von den technischen zu den ethischen Fragen gelinge. Dabei ist es um die Privatsphäre in den USA weit schlimmer bestellt als in der EU, wo es zumindest eine solide Datenschutzbasis gibt.
Die Keynote hielt Maria Markstedter: Selbst vor zehn Jahren als Stipendiatin zur Black Hat gekommen, erläuterte sie nun ihre Ansichten über die Risiken von KI. Sie wies auf die Zweischneidigkeit von Nutzen und Missbrauch von Tools wie ChatGPT hin und darauf, dass beim Wettrennen zwischen Google und Microsoft wieder einmal die Sicherheit auf der Strecke bleibt – getreu dem Motto: Ein Produkt muss auf den Markt, Pen-Tests und Sicherheit kommen später.