İnsan yüzü özeldir. Aynı anda hem kamusal hem de kişiseldir. Yüzlerimiz bizim hakkımızda hassas bilgileri açığa çıkarır: elbette kimiz, aynı zamanda cinsiyetimiz, duygularımız, sağlık durumumuz ve daha fazlası.

Avustralya’daki milletvekilleri, dünyanın dört bir yanındakiler gibi, yüz verilerimizin endüstriyel ölçekte toplanıp ardından akıllı telefonlarımızdan polis CCTV kameralarına kadar her şeyde kullanılacağını asla tahmin etmemişti. Dolayısıyla, yasalarımızın yüz tanıma teknolojisinin olağanüstü yükselişine ayak uyduramamasına şaşırmamalıyız.

Ama ne tür yasalara ihtiyacımız var? Teknoloji hem iyi hem de kötü amaçlar için kullanılabilir, bu nedenle ne yasaklamak ne de mevcut herkes için ücretsiz olan ideal görünmüyor.

Bununla birlikte, düzenleyici başarısızlık, topluluğumuzu yüz tanımanın zararlı kullanımlarına karşı savunmasız bıraktı. Yasal boşluğu doldurmak için, bir “ model yasa ” öneriyoruz: Avustralya’daki hükümetlerin güvenli olanlara izin verirken riskli yüz tanıma kullanımlarını düzenlemek için kabul edebileceği veya uyarlayabileceği bir mevzuat taslağı.

Yüz tanıma teknolojilerinin zorluğu

Yüz tanıma teknolojilerinin kullanım durumları yalnızca hayal gücümüzle sınırlı görünüyor. Çoğumuz elektronik cihazlarımızın kilidini açmak için yüz tanımayı kullanmayı düşünmüyoruz. Yine de teknoloji Avustralya’da okullar, havaalanları, perakende mağazaları, kulüpler ve kumarhaneler ve kolluk kuvvetleri dahil olmak üzere çok çeşitli durumlarda denendi veya uygulandı.

Yüz tanıma kullanımı yılda yaklaşık %20 oranında arttığından, özellikle polislik gibi yüksek riskli bağlamlarda insanlar için risk de artıyor.

ABD’de, hataya açık yüz tanıma teknolojisine güvenmek, özellikle Siyahi insanları içeren çok sayıda adaletsizlik örneğiyle sonuçlandı. Bunlar arasında Robert Williams’ın haksız yere tutuklanması ve gözaltına alınması ve genç bir Siyah kızın Detroit’teki bir paten pistinden haksız yere dışlanması yer alıyor.

Meta, Amazon ve Microsoft dahil olmak üzere dünyanın en büyük teknoloji şirketlerinin çoğu, yüz tanıma ile ilgili hizmetlerini azalttı veya durdurdu. Tüketici güvenliği ve etkili düzenleme eksikliği ile ilgili endişeleri dile getirdiler.

Bu övgüye değer, ancak aynı zamanda bir tür “düzenleyici piyasa başarısızlığına” yol açtı. Bu şirketler geri çekilirken, daha az titiz olan diğer şirketler yüz tanıma pazarından daha büyük bir pay aldı.

Amerikan şirketi Clearview AI’yi ele alalım. Etkilenen kişilerin rızası olmadan sosyal medyadan ve diğer web sitelerinden milyarlarca yüz görüntüsünü sıyırdı, ardından Avustralya Federal Polisi’ne ve dünyadaki diğer kolluk kuvvetlerine sattığı bir yüz eşleştirme hizmeti yarattı.

2021’de Avustralya Bilgi ve Gizlilik Komiseri, hem Clearview AI’nin hem de AFP’nin Avustralya’nın gizlilik yasasını ihlal ettiğini tespit etti, ancak bunun gibi yaptırım eylemleri nadirdir.

Ancak Avustralyalılar yüz tanımanın daha iyi düzenlenmesini istiyor. Bu, Avustralya İnsan Hakları Komisyonu’nun 2021 raporunda, büyük perakendeciler tarafından yüz tanıma teknolojisinin kullanımına ilişkin 2022 SEÇİM soruşturmasında ve İnsan Teknolojisi Enstitüsü’nde model yasamızın bir parçası olarak görevlendirdiğimiz araştırmalarda gösterilmiştir.

Yüz tanıma reformu seçenekleri

Avustralya’nın hangi seçenekleri var? Birincisi hiçbir şey yapmamaktır. Ancak bu, yüz tanıma teknolojilerinin zararlı kullanımından korunmayacağımızı kabul etmek ve bizi kitlesel gözetime yönelik mevcut yörüngemizde tutmak anlamına gelir.

Başka bir seçenek de yüz tanıma teknolojisini tamamen yasaklamak olabilir. Bazı yargı bölgeleri gerçekten de teknoloji üzerinde moratoryumlar kurmuştur, ancak bunlar (olumlu kullanımlar için) birçok istisna içerir ve en iyi ihtimalle geçici bir çözümdür.

Bize göre, daha iyi reform seçeneği, yüz tanıma teknolojilerini ne kadar riskli olduklarına göre düzenleyen bir yasadır. Böyle bir yasa, teknolojinin zararlı kullanımlarına karşı koruma sağlarken, açık bir kamu yararı ile yüz tanımayı teşvik edecektir.

Yüz tanıma teknolojisi düzenlemesi için risk temelli bir yasa

Model yasamız, Avustralya’da yüz tanıma sistemleri geliştiren veya kullanan herkesin insan hakları riskini değerlendirmek için titiz bir etki değerlendirmesi yapmasını gerektirir.

Risk seviyesi arttıkça yasal gereklilikler veya kısıtlamalar da artar. Geliştiricilerin ayrıca, AI performansı ve iyi veri yönetimi için uluslararası standartlarla uyumlu yüz tanıma için teknik bir standarda uymaları gerekecektir.

Model yasa, yüz tanıma uygulamalarının yüksek riskli kullanımlarına ilişkin genel bir yasak içermektedir. Örneğin, kişilerin cinsel yönelimlerini değerlendirip onlar hakkında karar vermeyi amaçlayan bir “yüz analizi” uygulaması yasaklanacaktır. (Ne yazık ki, bu çok uzak bir varsayım değil.)

Model yasa ayrıca yüksek riskli yüz tanıma teknolojisi yasağına üç istisna getiriyor:

Düzenleyici, başvurunun uluslararası insan hakları hukuku kapsamında haklı olduğunu düşünürse, yüksek riskli bir başvuruya izin verebilir.

Bu tür diğer emirlerde olduğu gibi bağımsız gözetim sağlayacak bir “yüz emri” planı da dahil olmak üzere, kolluk kuvvetleri için belirli bir yasal rejim olacaktır.

yüksek riskli uygulamalar, uygun gözetim ile akademik araştırmalarda kullanılabilir.

Düzenleyici ve etkilenen kişiler tarafından yapılan inceleme

Herhangi bir yasanın uygun yetki ve kaynaklara sahip bir düzenleyici tarafından uygulanması gerekir. Bu kim olmalı?

Danıştığımız paydaşların çoğu – iş kullanıcıları, teknoloji firmaları ve sivil toplum temsilcileri dahil – Avustralya Bilgi Komiserliği Ofisi’nin (OAIC) ​​yüz düzenlemesinin düzenleyicisi olmaya çok uygun olacağını önerdi. Askeri ve belirli güvenlik kurumları gibi belirli, hassas kullanıcılar için ayrıca özel bir gözetim rejimine ihtiyaç duyulabilir.

Şimdi reform zamanı

Sivil toplumdan, endüstriden ve hükümetten bu kadar çok grup ve bireyin yüz tanıma teknolojisi reformu ihtiyacına bu kadar bağlı ve uyumlu olduğunu hiç görmemiştik. Bu, hem Avustralya Teknoloji Konseyi’nden hem de CHOICE’tan model yasaya destek olarak yansıtılmaktadır.

Yüz tanıma kullanımının olağanüstü yükselişi ve paydaşlar arasında ortaya çıkan bir fikir birliği göz önüne alındığında, federal başsavcı bu anı yakalamalı ve ulusal reforma öncülük etmelidir. İlk öncelik, kolayca model yasamıza dayanabilecek bir federal yasa tasarısı sunmaktır. Başsavcı, Avustralya’nın yüz tanıma yasasını uyumlu hale getirmek için eyaletler ve bölgelerle de işbirliği yapmalıdır.

Önerilen bu reform kendi şartlarında önemlidir: Yüz tanıma teknolojilerinin etkin bir şekilde denetimsiz kalmasına izin veremeyiz. Ayrıca, Avustralya’nın yeni teknolojinin zararlı kullanımlarına karşı koruma sağlamak için hukuku nasıl kullanabileceğini ve aynı zamanda kamu yararı için inovasyonu teşvik ettiğini de gösterecek.