400 Bilim İnsanından Yapay Zeka İçin Küresel Denetim Çağrısı: Siber Saldırı Uyarısı Yapay zekanın siber saldırılarda kullanılabilme potansiy...

400 Bilim İnsanından Yapay Zeka İçin Küresel Denetim Çağrısı: Siber Saldırı Uyarısı

Yapay zekanın siber saldırılarda kullanılabilme potansiyeli, teknoloji dünyasında güvenlik tartışmalarını yeniden gündeme taşıdı. Aralarında yapay zeka alanının öncü isimleri Geoffrey Hinton ve Yoshua Bengio'nun da bulunduğu yaklaşık 400 bilim insanı, gelişmiş yapay zeka sistemlerinin uluslararası bir mekanizmayla denetlenmesini istedi. Araştırmacılar, özellikle siber saldırı yetenekleri bulunan modellerin daha sıkı güvenlik önlemleri altında geliştirilmesi ve test edilmesi gerektiğini vurguladı.

34 ülkeden araştırmacıların imzaladığı açık mektupta, yapay zeka sistemlerinin kontrolsüz biçimde dış ağlara erişmesinden kaynaklanabilecek risklere dikkat çekildi. Bilim insanları, mevcut güvenlik taahhütlerinin yeterli olmadığını savunarak ortak standartlar oluşturulması çağrısında bulundu.

Yapay Zeka İçin Uluslararası Denetim Kurumu İsteniyor

Araştırmacıların önerileri arasında, gelişmiş yapay zeka modellerinin güvenliğini denetleyecek uluslararası bir kurum kurulması bulunuyor. Bu kurumun, farklı şirketler ve ülkeler için geçerli olabilecek güvenlik standartları belirlemesi hedefleniyor.

Önerilen mekanizmanın önemli görevlerinden biri de yapay zeka sistemlerinde yaşanan ciddi güvenlik olaylarını kayıt altına almak olacak. Bilim insanları, bu olaylara ilişkin bilgilerin toplanmasını ve uygun bir süreç sonunda kamuoyuyla paylaşılmasını da istiyor.

Böylece yapay zeka modellerinin güvenlik sınırlarını aşması durumunda yaşanan sorunların incelenmesi ve benzer olayların tekrarlanmasını önleyecek önlemlerin geliştirilmesi amaçlanıyor.

Yapay Zeka Modellerinin Dış Ağlardan İzole Edilmesi Öneriliyor

Açık mektupta öne çıkan başlıklardan biri de gelişmiş yapay zeka sistemlerinin dış ağlarla bağlantısının sınırlandırılması oldu.

Siber güvenlikte “air-gapping” olarak adlandırılan yöntem, bir bilgisayar sisteminin internet ve diğer dış ağlarla bağlantısının kesilmesini ifade ediyor. Bilim insanları, özellikle siber saldırı kapasitesi bulunan ileri yapay zeka modellerinin başlangıçta bu tür yalıtılmış ortamlarda çalıştırılmasını öneriyor.

Bağımsız denetim mekanizmalarının da devreye alınmasını isteyen araştırmacılar, internet erişimi bulunan sistemlerde ise izin verilen işlemlerin ve bağlantıların daha sıkı kontrol edilmesi gerektiğine dikkat çekiyor.

Bu yaklaşımın amacı, yapay zeka modellerinin güvenlik testleri sırasında belirlenen sınırların dışına çıkarak gerçek sistemlere zarar verme ihtimalini azaltmak.

Şirketlerin Gönüllü Güvenlik Taahhütleri Yeterli Bulunmadı

Bilim insanları, yapay zeka şirketlerinin kendi inisiyatifleriyle açıkladıkları güvenlik taahhütlerinin tek başına yeterli olmayabileceğini savunuyor. Araştırmacılara göre, uluslararası düzeyde uygulanabilir standartların ve bağımsız denetim süreçlerinin oluşturulması gerekiyor.

Mektupta, hükümetler ortak bir denetim sistemi üzerinde çalışırken yapay zeka geliştiren ve test eden kuruluşların da daha güçlü güvenlik önlemlerini gecikmeden uygulamaya başlaması istendi.

Özellikle siber saldırı yetenekleri gelişmiş modeller için güvenli test ortamlarının oluşturulması, dış ağlara erişimin kontrol edilmesi ve olası güvenlik ihlallerinin raporlanması öne çıkan öneriler arasında yer alıyor.

Yapay Zeka Siber Saldırı Gerçekleştirebilir mi?

Yapay zeka, siber güvenlik alanında hem savunma hem de saldırı amacıyla kullanılabiliyor. Güvenlik açıklarının tespit edilmesi, kodların analiz edilmesi ve bazı işlemlerin otomatikleştirilmesi gibi yetenekler, kötü niyetli kişilerin elinde siber saldırıları kolaylaştırabilecek araçlara dönüşebiliyor.

Özellikle birden fazla işlemi insan müdahalesi olmadan gerçekleştirebilen yapay zeka ajanları, güvenlik uzmanlarının yakından takip ettiği alanlardan biri olarak öne çıkıyor.

Bununla birlikte, her yapay zeka modelinin kendi başına siber saldırı gerçekleştirebildiği anlamına gelen genel bir sonuç bulunmuyor. Risk; modelin teknik kapasitesine, kendisine verilen yetkilere, erişebildiği sistemlere ve uygulanan güvenlik önlemlerine bağlı olarak değişiyor.

Bilim insanlarının uluslararası denetim çağrısı da bu risklerin daha sistematik biçimde değerlendirilmesini ve olası güvenlik ihlallerinin önlenmesini amaçlıyor.

Uluslararası Denetim Çağrısı Henüz Bir Düzenleme Değil

Araştırmacıların talebi, gelişmiş yapay zeka sistemlerinin güvenliği konusunda uluslararası iş birliğinin artırılmasına yönelik bir öneri niteliği taşıyor. Çağrı, tek başına yeni bir yasanın yürürlüğe girdiği veya uluslararası denetim kurumunun kurulduğu anlamına gelmiyor.

Önerinin nasıl uygulanacağı, hangi ülkelerin sürece katılacağı ve oluşturulabilecek mekanizmanın nasıl işleyeceği ise ayrı bir değerlendirme ve düzenleme süreci gerektiriyor.

Yapay zeka teknolojileri geliştikçe siber güvenlik önlemlerinin de aynı hızla güçlendirilmesi gerektiğini savunan araştırmacılar, bağımsız denetim ve daha sıkı kontrol mekanizmalarının gelecekteki riskleri azaltmada önemli rol oynayabileceğini belirtiyor.