Duri Bonin hat Patrick Arnecke zu sich in den Podcast eingeladen, weil er verstehen will, wie KI im realen Workflow hilft. Daraus ist die Serie «Back to the Future» entstanden: eine ruhige Bestandesaufnahme nach dem Hype – was heute schon funktioniert und wie man es sauber in die Praxis bringt.

KI ist nie nur Technik. Sie ist Soziotechnik: Sie verändert Rollen, Verantwortung, Zusammenarbeit und am Ende auch die Frage, was in der Verwaltung (und in der Justiz) als fair, nachvollziehbar und korrekt gilt. In dieser Episode sprechen Duri Bonin und Patrick Arnecke über KI-Ethik als praktische Arbeit: nicht nur «Was dürfen wir?», sondern «Was wollen wir?» und welche Leitplanken es dafür braucht.

Ausgangspunkt sind reale Workflows: Sprachvereinfachung, Audiotranskription, Protokolle in Einvernahmen. Patrick zeigt, warum «Fehler» kein Randthema sind, sondern der Kern jeder ethischen Debatte über KI: Jedes System macht Fehler – entscheidend ist, welche Fehler, wie weh sie tun, und wie man damit sauber umgeht. Ein zentrales Prinzip in der Zürcher Verwaltung: KI als Hilfssystem, nicht als Entscheidungssystem. Patrick nennt das nicht «Human in the Loop», sondern konsequent «AI in the Loop»: Die KI liefert Entwürfe und Anregungen – der Mensch bleibt zu 100 Prozent verantwortlich. Dazu gehört Governance statt Siegeldenken: keine einmalige «KI-Zulassung», sondern laufende Beobachtung, Folgenabschätzung und Qualitätskontrolle über den ganzen Lebenszyklus inklusive Konzeptdrift (die Welt ändert sich, das Modell bleibt stehen). Und am Schluss steht eine Perspektive, die hängen bleibt: KI ist nicht «Zukunft». Sie ist längst überall – gerade weil sie oft unsichtbar geworden ist. Nicht «Wann beherrschen Maschinen die Welt?», sondern: Sie tun es schon und oft erstaunlich doof.

Konkret wird besprochen:

• Warum KI-Ethik mehr ist als Compliance: Es geht um Werte, Gemeinwohl und Benachteiligungen verhindern.
• Benefizienz: KI soll Arbeit besser machen (z.B. mehr Zeit für juristische Kernarbeit statt Protokollstress).
• Fehlerkultur bei KI: unterschiedliche Fehlertypen, unterschiedliche Schäden, unterschiedliche Prüfpflichten.
• Leitplanken der Zürcher Verwaltung: Studie/Leitfaden mit Universität Basel und AlgorithmWatch als Rahmenwerk.
• «AI in the Loop»: Assistenz statt Automatisierung, Verantwortung bleibt beim Menschen.
• Rollout als Teamsport (Juristinnen, HR, OE, Datenschutz, Sicherheit, Fachstellen).
• Ethik als Prozess: Monitoring, Konzeptdrift, laufende Folgenabschätzung statt Stempel.
• Bias als Chance und Risiko: Verzerrungen sichtbar machen – aber auch Datenerhebung vs. Datenschutz als Zielkonflikt.
• Soziotechnische Kompetenz aufbauen: reden, fragen, ausprobieren.

Für wen ist diese Folge besonders spannend? Für alle, die KI nicht als Buzzword, sondern als Verantwortungsthema verstehen wollen: Verwaltung, Justiz, Strafverteidigung, Behördenkommunikation, Compliance/Governance, Daten- und Digital-Teams – und alle, die KI einführen (oder einkaufen) wollen, ohne die Kontrolle abzugeben.

Back to the Future:

• #739 KI nach dem Hype – Wo hilft KI heute konkret? Wie einführen?
• #741 KI nach dem Hype: Semantische Suche – schneller finden, besser entscheiden
• #743 KI nach dem Hype: Wie sicher ist KI-Audiotranskription in Strafverfahren? Erfahrungen in der Zürcher Justiz
• #745 KI nach dem Hype: Wie verständlich ist juristische Sprache? – Sprachvereinfachung mit KI
• #748 KI nach dem Hype: KI-Recherche in grossen Dokumentmengen – Intelligente Suche & Deep Research erklärt

Links zu diesem Podcast:

• Mein Gast Patrick Arnecke ist diplomierter Data Scientist (AI & Machine Learning) beim Statistischen Amt Zürich; er entwickelt mit seinem Team nutzerorientierte KI-Lösungen und führt komplexe Transformationsprojekte
• Künstliche Intelligenz (KI) im Kanton Zürich
• Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische Fragen
• AlgorithmWatch
• AI + Machine Learning Canton of Zurich
• Abteilung «Data» beim Statistischen Amt
• HERMES Online
• Anwaltskanzlei von Duri Bonin
• Das Buch zum Podcast: In schwierigem Gelände — Gespräche über Strafverfolgung, Strafverteidigung & Urteilsfindung

Die Podcasts "Auf dem Weg als Anwält:in" sind unter https://www.duribonin.ch/podcast/ oder auf allen üblichen Plattformen zu hören 🎧. Dort einfach nach 'Duri Bonin' suchen und abonnieren.