21.1.2025 – Angst vor „KI“? Nö. Vor Menschen? Jo.

(Tag 1)

Wenn mich Menschen fragen, warum ich Angst vor KI habe, dann sage ich: „Weil die Menschen ihr glauben werden.“ Ein winziges, auf den ersten Blick kaum wahrnehmbares Beispiel passierte gestern beim Bestellen des Fotobuchs:

Nein, das ist nicht mal KI, das ist nur eine kleine Funktion beim Bestellvorgang. Ob der Anbieter damit Fake-Bestellungen abfangen will oder es als Komfort-Funktion für Kundinnen sieht – keine Ahnung. Ist auch egal.
Aber nehmen wir einfach mal an, die Meldung erscheint nicht auf meinem Screen, wenn ich etwas bestellen will, sondern an irgendeinem Schreibtisch im Rathaus, irgendeinem Schalter einer Bank. Meine Kundenberaterin gibt meine Adresse so ein, wie ich sie diktiere und es erscheint eine rote Meldung, dass die Adresse nicht verifiziert werden konnte. Das ist ein Bruch im Ablauf, ein Mikro-Bruch nur, aber ein Bruch, der kurz die Aufmerksamkeit aus dem Trott nimmt und erhöht. In dieser Pause im Ablauf geschieht eine Irritation, auch nur eine Mikro-Irritation – aber das erste Gefühl ist: Der sagt nicht die Wahrheit. Und dann vergleicht sie die Adressen und bemerkt das Problem.
Es gibt nur leider keine zweite Chance für den ersten Eindruck und eine Winzigkeit wird erstmal hängen bleiben – so ticken unsere Hirne leider.

Hier an diesem Beispiel ist der Fehler der Software natürlich offensichtlich.
Problem: „KI“ bekommt halt auch größere Aufgaben und „KI“ hat dann die Chance auf ganz andere Fehler. Ich las zB einmal davon, wie eine KI ausgewertet hat, wie die politische Einstellung in Deutschland in den 2010er Jahren war, dabei die erhitzte Diskussion um die Aufnahme von Flüchtlingen aus Syrien falsch auswerte und uns ein stramm linke Regierung verpasste. Wer sollte sonst schon „Wir schaffen das!“ sagen?*

*) Ob das etwas über die Menschen, die die Algorithmen programmiert haben und über das Futter, was sie ihrer KI zum Training gaben, aussagt, das wäre auch noch ein interessante Frage; aber bleiben wir mal hier.

Gestern begrüßte mich der Adobe Acrobat mit dieser frohlockenden Meldung …

… und meine Güte, ob müde Geschichts-Studentinnen, die sich ein PDF lieber zusammenfassen und erzählen lassen, statt es zu lesen – ob die jetzt lernen, dass Deutschland 16 Jahre stramm links oder bräsig konservativ regiert wurde – das stört doch keinen großen Geist, oder?
Rechts, links, vorn, hinten – ist schließlich alles nicht so wichtig. Ob ein Sachbearbeiter für Bürgergeld-Fragen als ersten Eindruck von seinem neuen Klienten kurz denkt, dass der betrügt auch nicht, nein nein. Bestimmt nicht.

Ich bin jemand, der neue Software erst gründlich testet. Ich fahre mit einem neuen Navi erstmal bekannte Strecken, ich spiele mit neuen Programmen oder Funktionen* erst in bekannten Umgebungen herum, bevor ich mich produktiv auf sie verlasse. Ich weiß, dass ich damit die Ausnahme bin; Menschen werden sich auf die praktischen neuen Funktionen verlassen.

Und manche Menschen haben auch einfach nicht die geringste Ahnung, was Software überhaupt kann. Zum Glück ja keine, die irgendwo Macht haben.

Und haben Sie schon einmal jemanden gesehen, die solche Meldungen liest und verinnerlicht?

Ganz davon abgesehen, dass die Software damit ja selbst sagt „Benutz mich nur zum Rumspielen“ – oder?

Falls Sie das jetzt alles ein bisschen übertrieben finden, versuchen Sie doch mal einen fetten Fernseher auf Ratenkauf zu kaufen, wenn Ihre Nachbarin die Raten für ihren TV nicht bezahlt hat. Kriegen Sie nicht, denn die KI der Schufa hat ja berechnet, dass Sie nicht zahlen werden. Und es sind nicht einmal mehr Menschen da, mit denen Sie diskutieren könnten.

Oder lesen Sie doch gern andernorts, wie ich schon vor 28 Jahren knapp an einem Rechtsstreit vorbei schlidderte, weil die Software damals noch ein wenig dümmer war und ö und oe nicht zusammen bringen konnte. Und wie ich nur Dank meiner Überredungskunst am Telefon nicht von AOL verklagt wurde.
Das hab ich nämlich schon vor Jahren mal aufgeschrieben.

*) Und deswegen mach ich jetzt ein PDF aus einem langen Text, den ich geschrieben habe und lass ihn mir vom Acrobat zusammen fassen. „Testen“ ist ja gar nicht immer kompliziert.


Zeugs

Fast schon eine Anekdote am Rande aber irgendwie thematisch auch dicht dran: Zumindest offiziell werde ich keine EPA haben. Falls Sie Ihrer EPA auch widersprechen möchten – hier eine Liste der Widerspruchsmöglichkeiten bei den verschiedenen Kassen und falls Sie noch unentschlossen sind auch noch gute Argumente und der aktuelle Stand nett zusammengefasst.

Vi ses. Hoffentlich.

Sie mögen das, wenn ich auch mal aus dem täglichen Alltags-Einerlei ausbreche und über Gott und die Welt nachdenke und möchten diese Arbeit unterstützen? Hier steht eine virtuelle Kaffeekasse!
Oder – wenn Ihnen Geld zu unpersönlich ist – hier ist meine Wishlist.

1 Kommentar

  1. Danke für die Info zur EPA und die Widerspruchsmöglichkeit per Online Zugang. Habe am Wochenende den Postcast Lage der Nation gehört, in dem über die Sicherheitslücken berichtet wurde und da kann man nur den Kopf schütteln. Wir über so vieles gerade.
    Gruß
    Birgit

Kommentare sind geschlossen.

Die Website setzt 1 notwendiges Cookie. Ich nutze Matomo, um zu sehen, welche Artikel Sie interessieren. Matomo ist lokal installiert es werden keine Cookies gesetzt, so dass Sie dort vollkommen anonym bleiben. Externe Dienste werden erst auf Ihre Anforderung genutzt.