ICT · BIG DATA · 4 VON 5

KI, ML &
Sprachmodelle

Die Maschine, die aus all den gesammelten Daten Vorhersagen macht – und die Stellen, an denen das schiefgeht.

Zuerst ausprobieren

Der Znüni-Empfehler

Auf der Kurs-Website steht eine Empfehlungsmaschine, die nur eine einzige Frage stellt: iPhone oder Android? Probiert sie aus, bevor wir weiterreden.

Alle Befragten mit iPhone waren 15 bis 19, alle mit Android 66 bis 78.

Die Maschine hat nie das Handy gelernt, sondern das Alter – sie weiss es nur nicht.

Der wichtigste Satz

Ein Modell lernt, was in den Daten steht – nicht, was richtig wäre.

Beim maschinellen Lernen schreibt niemand die Regeln. Man zeigt Beispiele mit der richtigen Antwort, und das System sucht selbst ein Muster. Es funktioniert oft gut – und niemand kann genau sagen, warum es im Einzelfall so entschieden hat.
  • Wo ist das ein Vorteil, wo ein Problem?

Wenn die Altdaten schief sind

Diskriminierung, die niemand programmiert hat

Amazon · 2018
Ein Bewerbungssystem lernte aus zehn Jahren Einstellungen – und wertete Lebensläufe mit Hinweisen auf Frauen ab. Projekt eingestellt.
Gesichtserkennung · 2018
Fehlerrate bei hellhäutigen Männern unter 1 %, bei dunkelhäutigen Frauen bis 34.7 %. Die Trainingsbilder waren einseitig.
Niederlande · 2021
Ein Risiko-Algorithmus stempelte zehntausende Familien zu Betrügern. Die Regierung trat zurück.
  • Reicht es, das heikle Merkmal wegzulassen? (Antwort: nein – warum nicht?)

Sprachmodelle

Warum ein Chatbot überzeugend Falsches schreibt

Ein Sprachmodell sagt voraus, welches Wort am wahrscheinlichsten als Nächstes kommt – und dann nochmals, und nochmals. Es prüft nichts nach. Eine erfundene Quelle sieht aus wie eine echte, weil echte Quellen genau so aussehen.
  • 2023 reichte ein Anwalt von ChatGPT erfundene Urteile bei Gericht ein. Wer trägt die Schuld?
  • 2024 musste eine Fluggesellschaft für die Falschauskunft ihres Chatbots geradestehen. Richtig so?

Positionierung · beweg dich

Wo stehst du?

Links zustimmen, rechts ablehnen – und ehrlich bleiben.

Ich habe schon einmal eine KI-Antwort abgegeben, ohne sie zu prüfen.

KI im Unterricht zu nutzen ist so normal wie ein Taschenrechner.

Ich merke, wenn ein Text von einer KI stammt.

Ich habe schon persönliche Daten in ein Chatfenster getippt.

Eine KI darf über einen Kredit oder eine Bewerbung mitentscheiden, wenn ein Mensch das Ergebnis prüft.

Ernstfall

Deepfakes: die Rechtslage ist eindeutig

Sexualisierte Darstellungen von Minderjährigen sind strafbar – auch wenn sie vollständig von einer KI erzeugt wurden und kein echtes Foto existiert. An Schweizer Schulen laufen dazu bereits Verfahren.

Betroffen? Beweise sichern, nichts weiterleiten, mit einer Vertrauensperson, der Schulleitung oder der Polizei reden. Anonyme Beratung: Pro Juventute, Telefon 147.

Zum Mitnehmen

Keine Magie – nur Zahlen, die angepasst werden.

Auf der Website trainierst du ein Modell selbst von Hand und lässt dann die Maschine übernehmen. Sie macht exakt dasselbe, nur schneller.

→ Kapitel mit Empfehlungsmaschine und Perzeptron
01 / 08
← → zum Blättern