Duyguları ayırt eden kameralar Çin'de yaygınlaşıyor!

Çin'de faaliyet gösteren, duygu tanıma teknolojisinde uzmanlaşmış şirketlerden birinde çalışan Chen Wei, yaşamın her alanında boy gösteren izleme sistemleri hakkında konuşurken şunları söylüyor:

“Çin'deki sıradan insanlar bu teknolojiden memnun değil ama başka seçenekleri yok. Polis bir yerde kameralar olması gerektiğini söylediğinde, insanlar sadece bununla yaşamaya alışmak zorunda...”

Duygu tanıma teknolojileri; öfke, üzüntü, mutluluk ve can sıkıntısı gibi hislerin yanı sıra diğer biyometrik verileri, yüzdeki kas hareketlerine, ses tonuna, vücut hareketlerine ve diğer biyometrik sinyallere dayanarak takip etmeyi sağlıyor. Bu teknoloji haliyle bir eşlemeye dayanarak yüzleri karşılaştıran sistemlerin çok ötesinde.

Ancak yüz eşleme sistemlerinde olduğu gibi bu teknoloji de insanları izlemek, gözlemlemek ve bir profil çıkarmak için hassas kişisel verileri topluyor; makine öğrenmesi yoluyla ifadeleri ve diğer ipuçlarını analiz ediyor.

DEVLET POLİTİKASI: POZİTİF ENERJİ

2012'den bu yana Devlet Başkanı Xi Jinping “pozitif enerji” yaymanın peşinde. Bazı ruh hallerini ve duygu durumlarını teşvik eden bu propoganda, bazı ifadeleri ise kısıtlamak istiyor. O dönemde bu yana Çin'de endüstri adeta patlamış durumda.

Araştırmacılar, avukatlar ve insan hakları aktivistleri bu teknolojilerin insan hakları, mahremiyet ve ifade özgürlüğüne ciddi darbe indirdiğini öne sürmekte. Yılda yaklaşık yüzde 30 oranında büyüyen sektörün toplam değerinin, 2023 yılına kadar 36 milyar dolara çıkması bekleniyor. Aktivistler ise ivedilikle harekete geçilmesi gerektiğini vurguluyor.

'COVID SÜRECİNDE EN ÇOK TALEP GÖREN...'

Chen Wei, şirket binasının da girişinde yer alan ve tahmini yaş da dahil olmak üzere birçok istatistik ile vücut ısısını bir arada gösteren sistemin koronavirüs sürecinde en çok talep gören ürün olduğunu ifade ediyor. Chen duygu tanıma teknolojisiyle hapishanelerde mahkumların tehlikeli davranışlarının tahmin edilebileceğini, potansiyel suçların, okullardaki sorunlu öğrencileri, bakım evlerindeki demans hastalarının tespit edilebileceğini vurguluyor.

60 BİN KAMERALIK SİSTEM

Firma, Çin genelinde 300 hapishane, gözaltı merkezi ve tutukevinde kurduğu 60 bin kameralık sistemle çok sayıda insanı izliyor. “Gözaltı merkezlerinde şiddet ve intihar çok yaygın” diyen Chen, “Bugünlerde polisler mahkumları dövmese de genellikle uykuya dalmalarına izin vermeyerek onları yıpratmaya çalışıyorlar. Sonuç olarak, bazı mahkumlar zihinsel bir çöküş yaşıyor ve kendilerini öldürmeye çalışıyor. Sistemimiz bunun olmasını önlemeye yardımcı olacak” ifadelerini kullanıyor.

Üreticilere göre mantık çok basit: 24 saat izlenen mahkumlar bunu bildikleri için belirli kuralları ihlal etmemeye çalışacak ve böylece daha uysal bir hale gelecekler. Bu birileri için ütopya, bazısı için ise 1984'ü andıran bir distopya...

Vatandaşın duygusal durumundaki değişiklikleri tespit etmek için alışveriş merkezlerinde ve otoparklarda da kullanılan sistem hakkındaki eleştirilerin farkında olduklarını ifade eden Chen, Haziran 2020'de bir güvenlik görevlisinin 41 kişiyi bıçakladığı bir olayı hatırlattı ve bu durumun, sistem sayesinde yaşanmadan önce tespit edilebileceğini öne sürdü.

'SİNİR BOZUCU ANLATILAR...'

Ancak bu görüş itirazlara çok açık. Merkezi Birleşik Krallık'ta olan bir insan hakları örgütü Article 19'de görev yapan dijital program yöneticisi ve avukat Vidushi Marda şöyle konuşuyor:

“Bu anlatılar, yeni teknolojiler emniyet veya güvenlik şemsiyesi altında tanıtılmak istendiğinde kullanılan sinir bozucu anlatılar... Gerçekte video gözetiminin güvenlikle eser miktarda bağlantısı var ve bu geri bildirimlerin gerçek zamanlı bir şiddet eylemenin önüne nasıl geçeceğinden hiç emin değilim. Pek çok biyometrik gözlem, baskılama, insanları sindirme ve sansürle iç içe geçmiş durumda. Duygu tanıma da bunun bir başka örneği.”

“Biyometrik 3.0” şirketleri üzerine bir rapor hazırlayan Article 19, Çin'deki 27 şirketin güvenlik önlemleri ve kamuoyu görüşü olmaksızın büyüdüğünü; kamu güvenliği ve eğitim alanlarına sorunlu bir şekilde yayıldıklarını öne sürdü.

'YASAKLANMALI'

Article 19, böylesi sistemlerin küresel olarak benimsenmeden ve kontrol altına almak güçleşmeden yasaklanması gerektiğini vurguluyor. The Guardian raporda adı geçen 27 şirketle irtibata geçerken yalnızca Chen Wei'nin çalıştığı şirket görüş vermeyi kabul etti.

Bir diğer problem ise yüz tanıma sistemlerinin örnekleme noktasında standart olarak, eksteriyetle aktörlerin mutlu, üzgün, kızgın ve diğer duygusal durumlarda poz vermesine dayanması. Sıradan insanların duygu durumlarını gösteriş şekilleri çok farklı olabilir. Ayrıca duygu ifadeleri kültürler arasında da büyük farklılıklar gösteriyor. Böylece daha fazla hata ve etnik önyargı da ortaya çıkabiliyor.

Chen, ürettikleri sistemler arasında Çin'de, Tayland'da ve bazı Afrika ülkelerinde polis tarafından kullanılan bir sistemin insanları etiketlerken “beyaz”, “siyah”, “sarı” ve hatta “Uygur” ifadelerini kullandığını aktardı: “Bazı ülkeler, ırksal çeşitlilik açısından Çin'den daha farklı. Çin'de ise sistem Han Çinlisi ile Uygurları ayırt edebiliyordu. Uygurları işaretlerken Han Çinlileri etiketlenmiyordu.”

Aslında bu teknolojinin kötüye kullanılabileceğini de gösteriyor. Ancak Chen, yazılımın polis tarafından kullanıldığını ve bu sebeple endişe duymadığını belirtiyor. Zira Chen, bu tür kurumlara otomatik olarak güvenilmesi gerektiğini ima ediyor. Chen aynı zamanda “Endişelenmiyorum çünkü sorun bizim teknolojimiz değil. Bu teknoloji için belirli senaryolar çerçevesinde talepler geliyor ve biz de bu talepleri yerine getirmek için elimizden geleni yapıyoruz” diyor.

'KORKUNÇ... RAHATSIZ EDİCİ...'

New York Üniversitesi'nin AI Now adlı yapay zeka enstitüsünde konuk araştırma görevlisi olarak çalışan Shazeda Ahmed, Article 19 raporunu “korkunç” olarak nitelerken “Çin'in ırk anlayışlarının teknolojiye yerleştirilmesi ve dünyanın diğer bölgelerine ihraç edilmesi gerçekten rahatsız edici” ifadelerini kullanıyor ve ekliyor:

“Son birkaç yıldaki araştırma raporları; hassas kişisel bilgilerin -özellikle devletler tarafından olası kullanımlarının geniş kapsamı göz önüne alındığında- devlet kurumlarının eline geçmesinin ne kadar tehlikeli olduğunu gösteriyor.”

Çin'deki duygu tanıma teknolojisi sektörünün itici güçlerinden biri de ülkede katı gizlilik yasalarının olmaması... Ulusal güvenlik veya kamu güvenliği gerekçesiyle yetkililerin biyometrik verilere erişimini kısıtlayan hiçbir yasa bulunmuyor. Chen de bunun altını çizerken “Dolayısıyla mümkün olduğunca fazla bilgi toplama ve bu verileri kullanmak için en iyi senaryoları bulma şansına sahibiz” diyerek sözlerini noktalıyor.

Kaynak: Smile for the camera: the dark side of China's emotion-recognition tech (The Guardian)

Kaynak: Web Özel