Potansiyel Silah Tüccarı: Yapay Zekâ
Huzeyfe Keleş
İnsanların iyiliğine hizmet eden bilgilerin yanlış ellerde çok büyük tehditler oluşturduğu tarihte çoğu kez görülmüştür. Örneğin atomların sahip olduğu enerjinin keşfi bilim dünyasının kritik noktalarından birisi olsa da buradan yola çıkılarak üretilen atom bombası insanlık tarihinin en dramatik yıkımlarından birisine sebep olmuştur. Her yeni buluş bir süre sonra kötü niyetli insanların eline geçip amacından saparak insanlara zarar vermek maksatlı kullanılma potansiyelini taşımaktadır. Yapay zekânın da oluşturabileceği riskler en baştan beri tartışma konusudur. Yakın dönemde yapılan bir çalışma [Nat Mach Intell 2022 Mar;4(3):189-191] bu tartışmaları yeniden gündeme getirmiştir.
Çalışmayı gerçekleştiren Collaborations Pharmaceuticals adlı şirket asıl olarak ilaçların toksisitesini in vitro testlerden sonra daha iyi öngörebilmek için makine öğrenme temelli yapay zekâ modelleri oluşturmaktadır. Bunun yanında yeni moleküllerin bulunması için oluşturdukları yapay zekâ modelleri de bulunmaktadır. Şirket bundan önce “MegaSyn” adında makine öğrenme modeli ile çalışan, yeni terapötik inhibitör üretmek maksatlı oluşturulmuş bir yapay zekâ tasarlamıştır. MegaSyn normalde asetilkolinesteraz inhibitörleri gibi nörodejeneratif hastalıkların tedavisinde kullanılan moleküllerin üretilmesinde kullanılmıştır. Yapay zekâ biyoaktiviteyi ve hedeflenen etkiyi pozitif puan olarak belirlerken toksisiteyi ise negatif puan olarak belirlemektedir. Bu sayede model maksimum etki ve minimum toksisiteye sahip potansiyel ilaçlar üretebilmektedir.
Şirket geçtiğimiz aylarda İsviçre Nükleer, Biyolojik ve Kimyasal Koruma Ulusal Enstitüsü tarafından Spiez Convergence adlı konferansa davet almıştır. Konferansta “İlaç araştırmalarında kullanılan yapay zekâların yanlış kullanılma potansiyeli” hakkında bir sunum yapması istenilmiştir. Bu davetten sonra yapay zekanın yanlış kullanım potansiyelini merak eden araştırmacılar modelde ufak bir değişiklik yapmışlardır. Normalde negatif puan olarak belirlenen toksisite pozitif puanlar arasına geçirilmiştir. Ardından yapay zekâ ilaç benzeri moleküllerden oluşan halka açık bir veri tabanı ile beslenilmiştir. Bu moleküllerin biyoaktivitesi ve letal dozları da halka açık veri tabanlarından alınmıştır.
Evreni daraltmak için araştırmacılar modeli en toksik kimyasal savaş öğelerinden birisi olan VX gibi sinir ajanı maddelere yönlendirmiştir. Yapılan değişikliklerden sonra bir gece boyunca çalıştırılan MegaSyn 40.000 kimyasal silah niteliğinde madde üretmiştir. Bu maddelerin arasında şu anda kimyasal silah olarak kullanılan maddelerin yanı sıra yeni, bilinmeyen etken maddeler de vardır. Yeni üretilen maddeler arasında genel olarak bilinen kimyasal savaş ajanlarından daha toksik maddeler bulunuyordu. Bunun ilginç bir nokta olmasının nedeni yapay zekâyı beslemeyen veri tabanında bu şiddette toksisiteye sahip maddeler bulunmuyordu.
Çalışmaların ardından “Acaba etik sınırları geçtik mi?” diye düşünen araştırmacılar bu çalışmayı daha fazla ileriye götürmediklerini özellikle vurgulamışlardır. Araştırmacılar, bu molekülleri sentezlenebilirlik açısından değerlendirmediklerini ya da retrosentez yöntemleriyle nasıl üretebileceklerini hiç araştırmadıklarını ifade etmişlerdir. Fakat bu iki sürecin de kolayca açık kaynak yazılımlarla gerçekleştirilebileceğini ve de novo molekül üreticisine entegre edilebileceğini söylemişlerdir. Yani, sadece yapay zekâ modellerinden oluşan ve tüm süreci gerçekleştiren bir otonom biyolojik savaş ajanı üreticisi oluşturulabilir.
Uzmanların ise bu maddelerin üretimi konusunda farklı düşünceleri vardır. George Mason Üniversitesinden Profesör Sonia Ben Ouagrham-Gormley, “Geçmişte yapılan silah üretme programları teorik olarak mümkün şeylerin uygulamada mümkün olmayabileceğini tekrar tekrar gösterdi.” sözleriyle bu çalışmanın tek başına pek bir şey ifade etmediğini belirtmiştir. Johns Hopkins Üniversitesinde kantitatif bilim bölümü yardımcı direktörü Elena Fertig ise konu hakkında “Bu soruna rağmen yapay zekanın bu şekilde büyük miktarda potansiyel zararlı maddeyi üretmesi ölümcül biyolojik silah oluşturma sürecini kolaylaştıracaktır.” dedi.
Her teknoloji gibi, yapay zekâ da yanlış ellerde istenmeyen sonuçlar doğurabilir. Yapay zekânın gücü, felaketlerin de gücünü etkileyeceğinden araştırmacılar bu konuya değinmek istediklerini belirtmektedir. Bilim insanları tam olarak bir çözüm önerisiyle gelmemekle birlikte, yapay zekânın tamamen şeytan ilan edilmesinin asla doğru bir yaklaşım olmayacağını, takip sistemlerinin kurulması gerektiğini belirtmektelerdir.
