Ein Wiener Softwareunternehmen automatisierte seinen Kundendienst. Die KI bevorzugte männliche Kunden bei Beschwerden. Das Problem lag in der technischen Umsetzung. Clara Higuera leitet das verantwortliche KI-Programm bei BBVA. Sie präsentierte auf der QCon London 2026 ihre Erkenntnisse.
Ethische KI – Was steckt dahinter?
Ethische KI funktioniert fair, transparent und nachvollziehbar. Dabei geht es um Algorithmus-Fairness. Alle Nutzergruppen werden gleich behandelt. Viele denken zuerst an Gesetze und Unternehmensrichtlinien.
Die Realität sieht anders aus. Wie ein defektes Thermostat das Heizsystem stört. Technische Fehler in KI-Systemen führen zu unfairen Ergebnissen. Die Lösung liegt im Code, nicht im Compliance-Handbuch.
InfoQ AI/ML zeigt Higueras Vortrag. Viele KI-Risiken entstehen durch Ingenieursprobleme. Mangelnde Governance ist seltener das Problem. Entwickler müssen Fairness beim Programmieren mitdenken.
Ein Beispiel: Eine Bewerbungs-KI bevorzugt bestimmte Universitäten. Das liegt an einseitigen Trainingsdaten. Böse Absicht ist selten der Grund. Ausgewogene Datensätze helfen mehr als neue Richtlinien.
Ethische KI: Warum das gerade jetzt wichtig ist
KI kommt in kritischen Bereichen zum Einsatz. Ein Salzburger Installateur nutzt KI für Terminplanung. Eine Grazer Apothekerin bestellt Medikamente per KI. Fehlerhafte Algorithmen richten echten Schaden an.
Die EU-KI-Verordnung verschärft die Anforderungen ab 2025. Unternehmen müssen nachweisen, dass KI-Systeme fair funktionieren. Compliance-Checklisten reichen nicht aus. Technische Nachweise werden zur Pflicht.
KI-Modelle werden komplexer. Große Sprachmodelle haben Milliarden Parameter. Diese Komplexität erschwert das Erkennen von Voreingenommenheit. Die Behebung wird schwieriger.
Higueras Ansatz zeigt einen Ausweg. Entwickler sollten Fairness von Anfang an einbauen. Nachträgliche Kontrolle ist teurer. Das verhindert kostspielige Nachbesserungen vor Markteinführung.
Was das für Österreich bedeutet
Österreichische Unternehmen stehen vor ähnlichen Herausforderungen. Heimische Firmen entwickeln KI-Anwendungen. Alle müssen ethische Standards einhalten.
Das Austrian Institute of Technology forscht an vertrauenswürdiger KI. Die FFG unterstützt Projekte zu KI-Sicherheit. Die Förderung beträgt bis zu 500.000 Euro. Österreichische Entwickler können diese Programme nutzen.
Heimische Softwareentwickler und Datenanalysten sind betroffen. Sie müssen Fairness-Tests in Arbeitsabläufe integrieren. Ein Programmierer bei einem Wiener Fintech prüft Algorithmen. Er testet auf geschlechtsspezifische Verzerrungen.
Die EU-KI-Verordnung gilt in Österreich. Verbund AG und OMV müssen KI-Systeme anpassen. Wer jetzt technische Lösungen entwickelt, ist später im Vorteil.
Die Entwicklung schafft Chancen für österreichische KI-Experten. Beratungsunternehmen profitieren im Bereich ethische Technologieentwicklung.
Praktischer Nutzen für dich
Als Entwickler oder IT-Verantwortlicher profitierst du direkt. Du kannst technische Tools nutzen. Compliance-Prozesse werden einfacher. Fairness-Bibliotheken für Python helfen beim Testen.
Das ist relevant für Softwareentwickler, Datenanalysten und Produktmanager. Qualitätssicherung und Risikomanagement müssen umdenken. Ein Tester in einem Linzer Softwarehaus prüft KI-Outputs. Er testet auf Diskriminierung.
Beginne früh im Entwicklungsprozess. Sammle ausgewogene Trainingsdaten. Teste regelmäßig auf Voreingenommenheit. Dokumentiere deine Maßnahmen. Das erspart teure Nachbesserungen und rechtliche Probleme.
Welche KI-Systeme in deinem Unternehmen könnten profitieren? Überprüfe aktuelle Projekte auf Fairness-Probleme.
Quelle: InfoQ AI/ML