Problematische Gesichts- und Spracherkennung
Immer mehr findet die automatische Erkennung von Stimme, Sprache und Gesicht Einzug in den Alltag. Das bringt nicht nur Vorteile. Diese Anwendungen wollen Forschende in der Schweiz verbieten.
Biometrische Daten sind hochsensible Informationen, weil sie Menschen eindeutig identifizieren können. Eine nutzbringende Gesichts-, Stimm- und Sprachbiometrie erfordert jedoch klare gesetzliche Rahmenbedingungen. Die Forschenden der Stiftung für Technologiefolgen-Abschätzung (TA-Swiss) plädieren im Rahmen einer Studie für eine Reihe von Empfehlungen, um einen vertrauenswürdigen Einsatz biometrischer Technologien zu schaffen.
Technologien wie die Stimm-, Sprach- und Gesichtserkennung haben in den letzten Jahren enorme Fortschritte erzielt. Mithilfe der Gesichtserkennung kann beispielsweise die Sicherheit im öffentlichen Raum erhöht werden, denn sie erleichtert auch die Suche nach vermissten oder flüchtigen Personen. Jedoch kann eine ständige Echtzeit-Datenauswertung auch die persönliche Freiheit beeinträchtigen und zu einer Überwachung führen.
Gesellschaftliche Debatte fördern
Sämtliche Gesichtserkennungssysteme sollten aus Sicht der Forschungsgruppe regelmässig evaluiert werden. Geschehen soll dies durch unabhängige Expertinnen und Experten. Entsprechende Berichte sollten, sofern möglich, der allgemeinen Öffentlichkeit zur Verfügung gestellt werden. Wichtig sei auch, regelmässig das Personal zu schulen, welches die Technologien einsetzt, damit diese sich ihrer Schutzmassnahmen zur Wahrung der Rechte der Bevölkerung bewusst sind. Zu fördern sei auch eine fortwährende gesellschaftliche Debatte zu Chancen, Risiken und ethischen Herausforderung der Gesichtserkennung durch die Polizei und deren demokratische Legitimation.
Datenverarbeitung nur auf dem Gerät
Zu den wichtigsten Empfehlungen zählt die TA-Swiss die Forderung nach mehr Transparenz über die Zwecke und Bearbeitung persönlicher Daten. Zudem soll sichergestellt werden, dass Hersteller eine ausdrückliche und informierte Einwilligung für jede Programmfunktionen und alle späteren Änderungen bei den Nutzerinnen und Nutzern einholen können. Nutzerinnen und Nutzern sollen eigene Daten einfach löschen können. Darüber hinaus müsse die Datenverarbeitung direkt auf dem Gerät gefördert werden und nicht in der Cloud des Herstellers.
Die Studie unterstreicht in dieser Hinsicht den Charakter biometrischer Daten als besonders schützenswerte Personendaten. So könne eine Analyse biometrischer Daten auch höchstpersönliche Informationen wie den aktuellen Gesundheitszustand preisgeben. Es werden dadurch immer mehr Daten über einzelne Menschen akkumuliert. Bei der künstlichen Intelligenz besteht die Gefahr der Diskriminierung bestimmter Personengruppen aufgrund ihres Geschlechts, ihrer Hautfarbe und ihres Alters. Zudem liessen sich sogenannte False-Positives bei der Erkennung nicht immer ausschliessen, da die Analysen auf Wahrscheinlichkeiten beruhen.
Die gesamte Studie der TA-Swiss analysiert insgesamt acht Anwendungsbeispiele, darunter auch die Authentifizierung durch die Stimme beim Telefonbanking, die Gewaltprävention in Sportstadien, die Früherkennung von physischen und psychischen Krankheiten, die Emotionserkennung, die Aufmerksamkeitsanalyse an Schulen und die Jedermann-Identifikation.
Quelle: TA-Swiss, Redaktion
