Sosyal Medya

Güncel

Yapay zekanın dünyayı ele geçirmesini engellemek için 23 yol

18-12-2018 15:31

Dünyanın en başarılı yapay zeka uzmanları yapay zekanın aşırı gelişip dünyayı ele geçirmemesi için bir araya geldi ve 23 maddelik bir bildiri hazırladı.



Bilim kurgu kitapları ve filmlerinin vazgeçilmez konularından birisi, robotların insanlardan daha zeki hale gelip dünyayı ele geçirmesidir. Dünyanın en başarılı yapay zeka uzmanları da bu felaket senaryosunun gerçeğe dönüşmemesi için bir araya geldi.

Daha önce Stephen Hawking ve Elon Musk gibi tanıdık kişilerin de dikkat çektiği bu konuyu tartışmak üzere Kaliforniya’nın Asilomar sahilinde bir araya gelen uzmanlar, gelecekteki yapay zeka araştırmalarını yönlendirmek üzere 23 prensip üzerinde anlaşma sağladı. Maddeler; araştırma konuları, etik ve değerler, uzun vadeli konular gibi çeşitli başlıklara ayrıldı. Bu başlıklar altında bilimcilerin hükumetlerle hangi şartlar altında çalışacağından, ölümcül silahların nasıl kullanılması gerektiğine kadar pek çok farklı konuya değiniyor. Maddeler şu şekilde:

Araştırma konuları
 
Araştırmanın amacı: Yapay zeka araştırmasının amacı kontrolsüz bir zeka değil, faydalı bir zeka geliştirmek olmalıdır.
 
Araştırma Fonlaması: Yapay zekaya yapılacak yatırımlar, teknolojinin yararını belirlemeye yönelik çalışmalar için gerekli fonlamaları da içermelidir. Bu çalışmalar, bilgisayar bilimleri, ekonomi, hukuk, etik ve sosyal çalışmalar konusunda, aşağıdaki gibi sorulara yanıt bulmak için yapılabilir:
 
Gelecekte yapay zeka sistemlerini; hacklenmeden, bizim istediğimiz gibi çalışacak şekilde nasıl geliştirebiliriz?
 
İnsanların kaynaklarını ve amaçlarını yok etmeden, otomasyonu kendi refahımızı artırmak için nasıl kullanabiliriz?
 
Yasal sistemimizi yapay zeka ile uyumlu ve etkili bir şekilde çalışacak hale nasıl getirebiliriz?
 
Hangi değerler yapay zeka ile ilişkilendirilmeli, yapay zeka hangi yasal ve etik konumlara sahip olmalıdır?
 
Bilim-Siyaset İlişkisi: Yapay zeka araştırmacıları ve siyasetçiler arasında yapıcı ve sağlıklı bir ilişki olmalıdır.
 
Araştırma Kültürü: Yapay zeka araştırmacıları ve geliştiriciler arasında bir iş birliği, güven ve şeffaflık kültürü oluşturulmalıdır.
 
Yarıştan Kaçınma: Yapay zeka sistemleri geliştiren ekipler aktif bir şekilde iş birliği içinde olmalı ve güvenlik standartları konusunda kolaya kaçmak engellenmelidir.
 
Etik ve Değerler
 
Güvenlik: Yapay zeka sistemleri, yaşam süreleri boyunca güvenli ve sağlam olmalıdır.
 
Hata Şeffaflığı: Bir yapay zeka sistemi zarara sebep olursa, bunun sebebinin bilinebiliyor olması gereklidir.
 
Yasal Şeffaflık: Herhangi bir otonom sistemin, yargı kararlarına dahil olması durumunda tatmin edici bir açıklama sunulmalı ve bu açıklama bir insan yetkili tarafından denetlenebilir olmalıdır.
 
Sorumluluk: Gelişmiş yapay zeka tasarımcıları be üreticileri, bu ürünlerin kötüye kullanımı ve eylemleri sebebiyle ortaya çıkan ahlaki sonuçlarda pay sahibidir. Bu sonuçlar hakkında sorumlulukları ve bunları düzeltme imkanları bulunmalıdır.
 
Değer Belirleme: Yüksek derecede otonom yapay zeka sistemleri, amaçları ve davranışları insan değerleri ile eşdeğer olacak şekilde tasarlanmalıdır.
 
İnsan Değerleri: Yapay zeka sistemleri, ideal insani saygınlık, haklar, özgürlükler ve kültürel çeşitlilikler ile uyumlu bir şekilde tasarlanmalı ve yönetilmelidir.
 
Kişisel Mahremiyet: İnsanların ürettikleri verilerin hangilerinin yapay zeka sistemlerine verileceğini belirleme ve kontrol etme hakkı olmalıdır.
 
Özgürlük ve Mahremiyet: Yapay zekanın kişisel verilere uygulanması, kişilerin gerçek ya da algılanan özgürlüklerini sebepsiz yere kısıtlamamalıdır.
 
Ortak Fayda: Yapay zeka teknolojileri mümkün olduğunca çok kişiye fayda ve güç sağlamalıdır.
 
Ortak Refah: Yapay zeka tarafından oluşturulan ekonomik refah, geniş çevrelerce paylaşılmalı ve tüm insanlığa fayda sağlamalıdır.
 
İnsan Kontrolü: İnsanlar kararları yapay zeka sistemlerine ne zaman ve ne şekilde bırakacaklarını kontrol edebilmelidir.
 
Tahribat Karşıtlığı: İleri yapay zeka sistemleri tarafından kontrol edilen güç, toplumların sağlıklı yaşamının temel taşı olan toplumsal ve sivil süreçlere saygılı olmalı ve geliştirmeli, bu süreçleri tahrip etmemelidir.
 
Yapay Zeka Silahlanma Yarışı: Ölümcül otonom silahlanma yarışı oluşması engellenmelidir.
 
Uzun vadeli konular
 
Kapasite Önlemi: Herhangi bir fikir birliği olmadan, gelecekteki yapay zekaların yeteneklerinin üst sınırı konusunda güçlü tahminlerde bulunmaktan kaçınılmalıdır.
 
Önem: İleri yapay zeka, insanlığın Dünya üzerindeki yaşam tarihinde önemli değişikliklere sebep olabilir. Buna göre yönetilmeli ve düzenlenmelidir.
 
Riskler: Yapay zeka sistemleri tarafından ortaya konulan yıkıcı ya da varoluşsal riskler plan dahilinde, beklenen etkisinin ölçüsüyle orantılı bir şekilde azaltılmaya çalışılmalıdır.
 
Tekrarlanan Öz-gelişim: Sayısını ve kalitesini hızla artıracak şekilde kendisini sürekli geliştirecek ve yeniden üretecek şekilde tasarlanmış yapay zeka sistemleri katı güvenlik ve kontrol önlemlerine tabi olmalıdır.
 
Ortak Çıkar: Süperzeka sistemleri sadece insanlığın geneli tarafından kabul görmüş etik idealler ve tüm insanlığın faydası için geliştirilmelidir. Bir ülke ya da bir organizasyon için değil.

Kaynak: Science Alert

Etiketler :

Henüz yorum yapılmamış.

* İşaretli tüm alanları doldurunuz.