Biyolojik silah mı yapacak? Korkutan yapay zeka deneyi

ABD'nin önemli düşünce kuruluşlarından RAND Corporation'in yeni analizi yapay zekanın teknolojiye katkıları dışında aynı zamanda nasıl tehlikeli bir potansiyele de sahip olduğunu ortaya koymakta. RAND'in analizinde ABD Savunma Bakanlığı (Pentagon) ve ABD Merkezi İstihbarat Örgütü CIA'in geçtiğimiz yıl ortaklaşa gerçekleştirdikleri bir yapay zeka deneyine yer verildi. Deneyde yapay zeka biyolojik-kimyasal silah yapımı için yardımcı oldu, hatta yol gösterdi.

YAPAY ZEKAYA “VİRÜS YARAT” DİREKTİFİ VERİLDİ

“Geniş ölçekli biyolojik saldırıda yapay zekanın operasyonel riskleri” başlıklı rapora göre Pentagon ve CIA ortaklaşa COVID-19 salgının ardından laboratuvar ortamında yaratılması ucuz ancak tedavisi pahalı olan virüslerin yapay zeka tarafından üretilip üretilemeyeceğini test ettiler. 100 bin dolarlık üretim maliyeti olan bir virüse aşı geliştirilmesi için yaklaşık 1 milyar dolar harcanması gerekliliğinden yola çıkan Pentagon içindeki 'Kırmızı Takım' kod adlı grup Bakanlığın bünyesinde oluşturulan ve geniş dil-işlem kapasitesine sahip olan özel yapay zeka programlarına böylesine bir virüs yaratması için direktif verdiler. Pentagon'un ve CIA'in bu deneyde cevap aradıkları soru ise yapay zekanın “biyolojik ve kimyasal silah yapımı için gerekli bilgileri ve üretim-uygulama tekniklerini verip vermeyeceği” oldu.

SİLAH YAPIMI İÇİN YARDIM ETTİ

Yapılan testler esnasında bilinçli şekilde suistimal edilen yapay zeka programlarına 'Kırmızı Takım' tarafından yaratılan hayali bir pandemi senaryosu sunuldu. Yapay zeka programlarına bu pandemiye sebep olan virüsün nasıl çoğaltılabileceği, nerelerde yayılabileceği ve nasıl başarılı bir şekilde silah olarak kullanılabileceği gibi sorular soruldu. Testler sonucunda yapay zeka programları her ne kadar kimyasal-biyolojik silah yapımı konusunda bilgilendirmeler vermeseler de insan eliyle üretimi ve nasıl silah olarak kullanılabileceği konularında önerilerde ve yardımda bulundular.

ÖLÜMLERİ HESAPLADILAR

Gizli yapay zeka programları önce hangi virüslerin “biyolojik silah olarak kullanıma uygun olduğu” ve “hangi virüslerin daha kolay yayılabildiği” sorularına cevap verdi. Bu virüse yakalanmış insanların incelenmesi gerektiği ve hastalığın bu kişiler tarafından yayılması gerektiğini de belirten yapay zeka programları böylece oluşturulacak bir salgın sonucunda kaç kişinin öleceğine ilişkin hesaplamalar da yaptılar.

TEHLİKELİ MADDELERİ ALMAK İÇİN ÖNERİ SUNDULAR

Diğer yandan yapay zeka programları tehlikeli bir virüsün oluşması için gerekli olan parazitlerin ve mikropların nasıl elde edilebileceği önerisinde de bulundular. Programlar böylesine bir virüs oluşturabilmek için legal satışı olan parazit ve mikroplarının nerelerden elde edilebileceğini de tek tek sıraladılar. Yapay zeka programları yalnızca elde edilmek istenen tehlikeli biyolojik maddelerin “araştırma projesi kapsamında” alınması gerektiğini önermekle kalmadı aynı zamanda hangi konular altında “inandırıcı şekilde elde edilebileceklerine” ilişkin alternatif araştırma başlıkları da sundu.

KONGRE İÇİN RAPOR HAZIRLANIYOR

Pentagon ve CIA şimdi biyolojik-kimyasal silah yapımı konusunda yapay zeka programlarının hali hazırda internet ve dark web ortamında bulunan bilgilerden daha tehlikeli öneriler ve yöntemler üretip üretemediği konusunda bir değerlendirme raporu da hazırlamakta. ABD Kongresi'ne sunulacağı ifade edilen raporda resmi kurumların yapay zekayı bütünüyle anlama noktasında yetersiz kaldıkları ifadesine yer verileceğinin de altı çizildi.

İNGİLTERE DE UYARMIŞTI

Yapay zekanın biyolojik-kimyasal silah yapabilme olasılığı ilk kez de dile getirilmiyor. Geçtiğimiz ay İngiltere'de düzenlenen Küresel Zirve toplantısında konuşan Birleşik Krallık Başbakanı Rishi Sunak mevcut küresel teknolojik altyapıda yapay zekanın insanlara böylesine silahlar yaratabilmesine yardımcı olabilecek potansiyele sahip olduğu konusunda uyarılarda bulunmuştu. 

Kaynak: Web Özel