Foto: Matthew Henry via Unsplash
Was hat das mögliche EU-Verbot von Gesichtserkennung mit Vertrauen zu tun?
Im Januar hat die EU bekanntgegeben, dass sie ein zumindest vorübergehendes Verbot von Software zur Gesichtserkennung (GE) im öffentlichen Raum in Betracht zieht. Wie der Bericht über Clearview gezeigt hat, gibt es im Spannungsfeld zwischen GE und unserem sozialen Leben Unwägbarkeiten, die eng mit Vertrauen zusammenhängen. Kurzum: wir sind unsicher, was die zukünftigen Auswirkungen von GE sein werden - ein perfektes Misstrauensszenario. Und Misstrauen ist ein guter erster Schritt.
Lesen sie die die vollständige englische Version hier.
Vertrauen ist eine ergebnisorientierte Beziehung, in der wir Annahmen über eine andere Partei hinsichtlich unserer eigenen, vorgestellten (vorteilhaften) Zukunft treffen. Vertrauen wir dagegen jemandem oder etwas, ohne vorher zunächst misstraut zu haben (blindes Vertrauen), so fehlt ein Element der Überprüfung, das notwendig ist, um unser Vertrauen nur in das zu setzen, was auch tatsächlich vertrauenswürdig ist. Dies herauszufinden wird einige Zeit dauern und erfordert verschiedene Bausteine.
Einige der Vertrauensbausteine bezüglich GE sind: (mehr dazu in unserem White Paper)
Verlässlichkeit: Wir wollen uns darauf verlassen können, dass GE in der Lage ist, beständig korrekte Gesichtsidentifikationen durchzuführen (Trainingsdatenverzerrungen und Hauttöne scheinen hier einige Probleme zu bereiten) und dass die Daten konsequent nur für die angegebenen Zwecke verwendet werden. Da die Technologie bereits problematisch eingesetzt wird - z.B. in Sozialwohnungen (USA) oder zur Bloßstellung älterer Menschen, die in der Öffentlichkeit Schlafanzüge tragen (China) - und sie darüber hinaus in immer vielfältigeren Situationen Anwendung findet, ist es schwierig, Verlässlichkeit sicherzustellen.
Transparenz: Nur wenn die richtigen Informationen über GE verfügbar sind, ermöglicht Transparenz eine korrekte Entscheidung über die Vertrauenswürdigkeit der Technologie. Oft wird GE so beschrieben, als sei nur eine Verwendungsweise möglich, während sie tatsächlich für unterschiedliche Zwecke eingesetzt werden kann („dual use“). Zudem ist GE leicht zu verbergen. Auch das Training eines Systems erfordert nicht die Zustimmung der zu erkennenden Person – ein Foto genügt.
Regulierung: Innovative Technologien fallen häufig nicht in den Anwendungsbereich bestehender Regulierung. Dies hängt zum einen mit einer höheren Entwicklungsgeschwindigkeit zusammen. Bislang hat die Öffentlichkeit nur sehr wenig regulatorische Sicherheit bezüglich der Verwendung von GE, obwohl sie kaum eine Wahl bezüglich ihrer Anwendung hat.
Vertrauensethos: Gesichtserkennung kann zu einem Teufelskreis in Bezug auf unser Vertrauensethos führen. Je ausgeprägter das allgemeine Vertrauensgefühl (das wir Vertrauensethos nennen) innerhalb unserer Gesellschaft ist, desto einfacher fällt es uns, mit Risiken und Ungewissheiten umzugehen. GE wird oft als eine Möglichkeit angepriesen, unsere Sicherheit zu erhöhen. Die Technologie kann eine korrekte Gesichtsidentifizierung gewährleisten und kann scheinbar dazu genutzt werden, Kriminelle leichter zu fassen. Doch dieses Narrativ lässt unsere Gesellschaft allgemein unsicher und vertrauensunwürdig erscheinen, was uns wiederum risikoscheuer macht - auch hinsichtlich des Einsatzes von GE.
Werte: Sollten es zu einem Verbot kommen, so ist es eine der wichtigsten Aufgaben der EU-Kommission, eindeutige Werte festzulegen, die einer möglichen Implementierung von GE zugrunde liegen können. Es muss festgestellt werden, welche Werte durch GE bedroht sind und welche – realistisch betrachtet – dennoch realisiert werden können. Wie kann die Technologie ausgehend von einer solchen Analyse angepasst werden? Anschließend können wir als potentielle Subjekte von GE eine bewusstere Entscheidung über deren Vertrauenswürdigkeit treffen.
Nächste Schritte für die GE-Tech-Welt
Letztlich geht es in der Diskussion nicht einfach darum, Vertrauen zu gewinnen. Es geht um eine gründliche Analyse der verschiedenen Vertrauensbausteine, auf deren Grundlage Änderungen zur Erfüllung einiger der Anforderungen vorgenommen werden können, um echte Vertrauenswürdigkeit zu signalisieren.
Was uns ein mögliches Verbot von GE bieten könnte ist eine Atempause, um sorgfältig zu prüfen, unter welchen Bedingungen wir GE akzeptieren sollten: dies ist eine wichtige gesellschaftliche Diskussion. Und sie erlaubt es uns, uns voll und ganz auf das Misstrauen gegenüber der Technologie einzulassen, um anschließend sorgfältig zu prüfen, ob wir in Zukunft Vertrauen gegenüber GE aufbauen sollten.