Leserbriefe Dezember 2023

Ich vermisse das Shit-in-Shit-out-Problem

(Schwachstellen: OWASP Top 10 für große KI-Modelle; iX 10/2023, S. 120)

Wenn ich eine KI frage, ob Steinobst mit Nierensteinproblemen eher an Calciumoxalat oder an Granitsteinen leidet, bekomme ich einen wunderbaren Aufsatz, der mir bestätigt, dass Steinobst eher an Calciumoxalatsteinen und nur selten unter Granitsteinen leidet. Und für den Leser, der damit nicht betraut ist: Es geht um Nierensteine. Diese bestehen häufig aus Calciumoxalat. Es gibt auch andere Verbindungen, aber Granit kommt definitiv nicht vor. Steinobst hat aber weder Nieren, noch könnte es an Nierensteinen leiden.

Nur ein Beispiel – schwachsinnige Frage, fantastische Antwort. Ich habe das auch mit anderen Kombinationen von Begriffen probiert, die KI liefert strunzdumme Ergebnisse. Ob es jetzt Zusammenhänge von Julius Cäsar mit dem Römertopf, Potenzprobleme von Bananen oder andere irre Fragestellungen betrifft, immer bekommt man eine in sich schlüssige Schwachsinnsantwort.

KI ist eben keine Intelligenz, sondern nur ein dummer Algorithmus, der aus Eingangsparametern und einem Datenbestand ein Ergebnis ermittelt. In einfachen Fällen führt das zum Wow-Effekt, bei genauer Betrachtung ist das Ergebnis einfach nur couragiert vorgetragener Unsinn.

Und das ist nur die Anwenderseite. Wenn nun die Trainingsdaten schlecht waren, gute Nacht, Marie …

Michael Straub, aus dem iX-Forum

DevPod direkt ausprobiert

(Tools und Tipps: DevPod: Entwickeln auf entfernten Systemen; iX 11/2023, S. 143)

Super Artikel – ernst gemeint! DevPod kannte ich bisher noch nicht.

Beim ersten Drübersehen ist mit nur Eclipse als fehlende vorkonfigurierte Umgebung aufgefallen. Lässt sich aber bestimmt auch einbinden. Einmal definieren, was wo liegt, und dann einem Team zur Verfügung stellen reduziert die Zeiten bis zum produktiven Entwickeln deutlich. Möglichkeit, neue oder auch eigene Provider zu verwenden, ist gegeben. Sieht alles sehr positiv aus.

Danke für den Hinweis! Werde ich mir noch genauer ansehen.

Rolf Masfelder, aus dem iX-Forum

Entscheidung für Redis

(Vektordatenbanken: Vektordatenbanken – ein Überblick; iX 11/2023, S. 62)

Vielen Dank für diesen informativen Artikel!

Wir haben uns bei der Vektorsuche folgende Kandidaten angeschaut: Redis und Elasticsearch. Spezialisten waren nicht dabei, da uns die Leistungsmerkmale der üblichen Verdächtigen ausreichend erschienen. Wir haben uns dann für Redis (bzw. Redisearch) entschieden – hauptsächlich, weil ein entsprechendes Deployment und Know-how bereits vorhanden waren. So mussten wir quasi nur noch die entsprechende Doku für die Indexsuche lesen und die entsprechenden Kommandos benutzen.

Nach den üblichen anfänglichen Schwierigkeiten hat alles funktioniert und der daraus resultierende Code ist in seiner Komplexität wirklich überschaubar. Negativ aufgefallen ist uns allerdings die Dokumentation – leider typisch für Redis insgesamt. Zum Beispiel hätten wir gerne aus der Dokumentation erfahren, wie man die einzelnen Skalare für die Befehle HSET und FT.SEARCH codieren muss, anstatt durch Versuch und Irrtum herauszufinden, dass eine Little-Endian-Codierung verwendet werden muss.

Gut gefallen hat uns dagegen die Fähigkeit, zusammen mit dem eigentlichen Vektor noch weitere Daten im Datensatz abzuspeichern: Wir speichern neben dem Vektor weitere Metadaten, um zu entscheiden, ob wir den indizierten Vektor eventuell aktualisieren müssen.

Last, but not least: Indexdaten können mit einem Verfallsdatum versehen werden (EXPIRE-Befehl). So lassen sich die Vektoren und ihre assoziierten (Meta-)Daten nach einer bestimmten Zeit automatisch „vergessen“. In unserem Fall war das für die DSGVO-Konformität wichtig.

Bullshit Firewall, aus dem iX-Forum

Die iX-Redaktion behält sich Kürzungen und auszugsweise Wiedergabe der Leserbriefe vor. Die abgedruckten Zuschriften geben ausschließlich die Meinung des Einsenders wieder, nicht die der Redaktion.