Birleşmiş Milletler’in (BM) yapay zekaya ilişkin ilk bağımsız bilimsel değerlendirme raporunda, teknolojinin sağlık, eğitim ve ekonomide büyük fırsatlar sunduğu ancak yetersiz düzenlemelerin eşitsizlik, yanlış bilgi ve güvenlik risklerini artırabileceği uyarısı yapıldı. Ayrıca yapay zeka geliştirme kapasitesinin ABD ve Çin başta olmak üzere büyük ölçüde sadece birkaç ülkede yoğunlaştığına dikkat çekildi.
BM, yapay zekaya ilişkin ilk bağımsız küresel bilimsel değerlendirme raporunu yayımladı. Raporda, yapay zekanın sağlık, eğitim ve ekonomik kalkınma alanlarında büyük fırsatlar sunduğu belirtilirken, yetersiz düzenlemelerin eşitsizlik, yanlış bilgi yayılımı ve güvenlik risklerini artırabileceği uyarısı yapıldı. Rapor, BM Genel Sekreteri Antonio Guterres tarafından oluşturulan uluslararası bağımsız uzmanlardan oluşan bir panel tarafından hazırlandı. Söz konusu raporun 6-7 Temmuz tarihlerinde İsviçre’nin Cenevre kentinde düzenlenecek ilk BM Küresel Yapay Zeka Yönetişimi Diyaloğu’nda hükümetlere sunulması bekleniyor. Yapay zekaya ilişkin ilk bağımsız küresel bilimsel değerlendirme niteliğindeki raporun gelecek yıl yayımlanması planlanan daha kapsamlı bir çalışmanın ön değerlendirmesi olduğu kaydedildi.
Çalışmada yapay zeka teknolojilerinin hızla yaygınlaştığına dikkat çekilirken, teknolojinin yalnızca belirli ülke ve şirketlerin değil, tüm dünyanın yararına kullanılabilmesi için uluslararası iş birliğinin güçlendirilmesi gerektiği vurgulandı. Raporda, politika yapıcıların yapay zekayı etkin şekilde düzenleyebilmesi için bilimsel kanıtlara ihtiyaç duyduğu ancak teknolojinin gelişim hızının hem bilimsel anlayışın hem de hükümetlerin uyum sağlama kapasitesinin önüne geçtiği belirtildi. Özellikle yüksek düzeyde otonom yapay zeka sistemlerinin kontrol altına alınmasına yönelik yöntemlerin henüz sınırlı olduğuna dikkat çekildi.
“Gelişen sistemlerin felaket boyutunda zararlara yol açmayacağı garanti edilemiyor”
Panel eş başkanlarından Yoshua Bengio, yapay zekanın aldatıcı davranışlar sergileyebildiğine ilişkin kanıtların giderek arttığını belirtti. Bengio, yapay zeka sistemleri geliştikçe bunların tek başına ya da kötü niyetli kişiler tarafından kullanılarak felaket boyutunda zararlara yol açmayacağının bilimsel olarak garanti edilemeyeceğini söyledi.
“Büyük faydaların yanı sıra önemli riskler de bulunuyor”
Raporda, yapay zekanın sağlık, eğitim ve ekonomik kalkınma gibi alanlarda büyük faydalar sağlayabileceği vurgulandı. Buna rağmen teknolojinin hızlı ve denetimsiz biçimde yaygınlaştırılmasının kullanıcıların ruh sağlığı üzerindeki olumsuz etkiler, yıkıcı amaçlarla kullanım, sosyal, ekonomik ve çevresel sistemler üzerindeki etkiler ile teknolojinin kontrolüne ilişkin sorunlar gibi önemli riskleri de beraberinde getirdiği kaydedildi. Yapay zekanın kullanımının dünya genelinde hızla arttığı ancak ülkeler ve sektörler arasında eşit dağılmadığı belirtilen raporda, haftalık konuşma tabanlı yapay zeka kullanıcı sayısının 1 milyarı aştığı, buna rağmen gelişmekte olan ülkelerde kullanımın geride kaldığı aktarıldı.
“Yapay zeka kapasitesi büyük ölçüde birkaç ülkede yoğunlaştı”
Yapay zeka geliştirme kapasitesinin ise büyük ölçüde birkaç ülkede yoğunlaştığına işaret edilen raporda, dünyanın en güçlü 500 yapay zeka süper bilgisayarındaki işlem gücünün yüzde 75’inin ABD, yüzde 15’inin ise Çin tarafından sağlandığı belirtildi. Raporda, dünyada 7 binden fazla dil konuşulmasına rağmen mevcut yapay zeka modellerinin bunların yalnızca küçük bir bölümünü desteklediği, bazı dillerdeki makine çevirilerindeki hataların sağlık teşhisleri ve tedavi kararlarını dahi etkileyebileceği ifade edildi.
“Toplumsal yapılar, bilgi bütünlüğü ve kamuoyu güveni olumsuz etkilenebilir”
Ayrıca raporda yapay zeka ile üretilen çocuk cinsel istismarı materyalleri ile “deepfake” teknolojisi kullanılarak oluşturulan cinsel şiddet içeriklerinin daha yaygın hale geldiği kaydedildi. Yapay zekanın “ikna edici” içeriklerin büyük ölçekte üretilmesini ve belirli hedef kitlelere ulaştırılmasını kolaylaştırdığına dikkat çekildi. Bunun bilgi bütünlüğünün aşınmasına, kamuoyunun güveninin zayıflamasına, toplumsal uyumun bozulmasına ve demokratik karar alma süreçlerinin olumsuz etkilenmesine yol açabileceği uyarısı yapıldı. Raporda ayrıca gelişmiş ekonomiler de dahil olmak üzere birçok ülkenin en gelişmiş yapay zeka modellerini teknik açıdan değerlendirecek uzmanlığa sahip olmadığı ve yapay zeka yönetişimine etkin biçimde katılmakta zorlandığı ifade edildi.
