Yapay zekânın çok önemli bir güç olduğunu ve bu gücün etki alanının hızla arttığını belirten uzmanlar, böyle bir gücün üretim ve kullanımının, herhangi bir tek elde toplanmasının dünya üzerindeki dengeleri değiştirebileceğini savunuyor. Yapay zekânın kontrol edilmesi gereken döneme yaklaşıldığına dikkat çeken Dr. Öğr. Üyesi Nuri Bingöl, önlem alınmadığı takdirde bu teknolojinin nükleer enerji seviyesine denk riskler taşıyabileceğini vurguluyor. Yapay zeka denetimlerinin nasıl uygulanacağı sorusunun henüz bir yanıtı olmadığına değinen Bingöl, küresel bir otoriteden çok her ülkenin kendine göre mevzuat ve yönetmelikleri olması gerektiğini ifade ediyor.
Dr. Öğr. Üyesi Nuri Bingöl
Üsküdar Üniversitesi SBF Dekan Yardımcısı, Yapay Zekâ Mühendisliği Yüksek Lisans Programı Anabilim Dalı Başkanı Dr. Öğr. Üyesi Nuri Bingöl, yapay zeka modellerinin getirebileceği olası riskleri ve bu risklerin nasıl kontrol altına alınabileceği konusunda değerlendirmelerde bulundu.
Yapay zekâlar, büyük bir alanda birçok kişinin işini elinden alabilir
Her şeye muktedir yapay zeka modellerinin olası riskleri de beraberinde getirdiğini belirten Dr. Öğr. Üyesi Nuri Bingöl, “Kullanıcılarına büyük avantajlar sağlaması yüzünden, bu kişilerin insanlığı avucunun içine alması gibi medyatik riskleri şu an için düşünmek gereksiz. Ancak çok daha yakında etkileriyle yüzleşmemiz gereken birçok risk ve tehlike bizleri bekliyor.” dedi.
Sanayi devrimiyle birlikte, buharlı makinelerin insanların yapmış olduğu işleri elinden aldığını ama bunun yanında çok daha fazla iş alanı oluşturduğunu hatırlatan Bingöl, “Yapay zekâ için ‘yeni iş imkânları oluşturacak’ dense de son zamanlarda her kesimden insanın da dikkatini çeken genel modeller, buharlı makineler gibi insanların yaptığı işleri daha verimli yapmak için tasarlanmadılar. İnsanların yapabileceği her türlü bilişsel faaliyeti yapabilmek için tasarlandılar. Bu da demektir ki yeni iş imkânı olarak gördüğümüz her şey bir süre sonra tekrardan genel modeller tarafından öğrenilebilir. Sürecin hiçbir yerinde insana gerek kalmaksızın faaliyet gösteren işletmeler oluşabilir. Doğru yönetilmediği takdirde bu tür bir değişimin etkileri dünya üzerinde çok yıkıcı olabilir. Genel maksatlı yapay zekâlar, doktorluktan avukatlığa, yazılım mühendisliğinden yöneticiliğe kadar büyük bir alanda, birçok kişinin işini elinden alabilir. Bunun yanında 7 gün 24 saat çalışıp insan meslektaşlarından çok daha ucuz bir maliyet oluşturabilir.” diye konuştu.
Bu kadar önemli bir gücün tek elde toplanması dünya üzerindeki dengeleri değiştirebilir
Yapay zekânın diğer bir aşaması olan ‘model oluşturma ve geliştirme aşaması’ için merkezi denetimin getirdiği risklerin düşünülmesi gerektiğine dikkat çeken Bingöl, bunun tek bir otorite tarafından yapılmasının önemli bir risk olduğunu söyledi.
Yapay zekânın çok önemli bir güç olduğunu ve bu gücün etki alanının hızla arttığını belirten Bingöl, “Bu kadar önemli bir gücün üretim ve kullanımının, küresel veya değil, herhangi bir tek elde toplanması dünya üzerindeki dengeleri değiştirebilir. Günümüzde nükleer gücün yarattığı sorunlar ve dünya güç dengesi üzerindeki rolü ortada.” dedi.
Yeterli önlemler alınmazsa yapay zekâ teknolojisi nükleer enerji seviyesine denk riskler taşıyabilir
Yapay zekâ teknolojileri alanında önemli gelişmelere imza atmış bir şirket kurucu ve yöneticileri tarafından yayımlanmış bir makaleye değinen Dr. Öğr. Üyesi Nuri Bingöl, “Makalede, yapay zekâ teknolojilerinin sorumlu bir şekilde kullanılması ve doğru şekilde denetlenmesi gerektiği ifade ediliyor. Bu teknolojinin denetlenmediği takdirde, insan hayatı ve toplum üzerinde olumsuz etkiler yaratabilecek riskler taşıyabileceği söyleniyor. Makaleye göre, yapay zekânın uluslararası kurumlar tarafından kontrol edilmesi gereken döneme yaklaşıldı ve yeterli önlemler alınmadığı takdirde bu teknoloji nükleer enerji seviyesine denk riskler taşıyabilecek.” şeklinde konuştu.
Küresel gücün bir güçler topluluğuna dönüştürülmesi başka sorular doğuruyor
“Bu nükleer güç ve risk benzetmesinden yola çıkarsak, yapay zekâ teknolojisinin de küresel veya değil tek bir elde toplanmasının nasıl sonuçlar doğuracağı ve dünya güç dengesine nasıl etki edeceği açıktır.” diyen Bingöl, sözlerine şöyle devam etti:
“Bu riski azaltmak için, küresel gücün birden fazla aktörün olduğu bir güçler topluluğuna dönüştürülmesi ise başka sorular doğuruyor. Küresel gücü temsil eden unsurlar nasıl belirlenecek? Bu gücün kullanımı hangi süreçlere ve yetkilere bağlanacak? Anlaşmazlıklar nasıl giderilecek, onay ve veto hakları nasıl adil olarak yönetilecek?”
Yapay zekâ iyi yönetilmezse daha fazla soruna ve güç dengesizliğine yol açabilir
Pandemi sürecinde Dünya Sağlık Örgütü’nün çalışmalarından örnek veren Bingöl, “Dünya Sağlık Örgütü, Birleşmiş Milletler’e bağlı olan ve toplum sağlığıyla ilgili uluslararası çalışmalar yapan oldukça saygın ve kabul gören bir örgüt. Buna rağmen COVID-19 pandemisi döneminde, dünya üzerindeki toplumların tamamının acil sağlık hizmetlerinden yararlanabilmesine ne derece katkı sağlayabildi? Pandemi döneminde aşı geliştirme gücünü elinde bulunduran devletler, dünya dengesi üzerinde etkili oldularsa hangi güç bunu nasıl kullandı? Görüldüğü gibi, yapay zekâ denetim ve sınırlandırmalarına çözüm olmasını beklediğimiz küresel otorite modeli, günümüzde başka konularda tecrübe ettiğimiz modellerin bütün sorunlarına çare olamadı. Yapay zekâ kadar güçlü bir teknolojinin iyi yönetilmediği taktirde daha fazla soruna ve güç dengesizliğine yol açabileceği ortada.” dedi.
Üretim ve kullanımın her aşaması birçok farklı ve bağımsız otoriteye yayılabilir
Yapay zekâ denetim ve sınırlandırmalarının, küresel bir gücün elinde bulundurduğu tek bir merkeze bağlı ‘devre kesici’ gibi yapılar olmak zorunda olmadığını aktaran Bingöl, “Çeşitli standartları, çalışma ve iz bırakma çerçevelerini, yetki denetimi alt yapılarını içeren, açık ve şeffaf denetlenebilir düzenlemeler, yasalar ve mevzuatlar olarak düşünülebilir. Bu konuda çeşitli aktörlerin rol ve sorumlulukları yasalar ve mevzuatlarla düzenlenebilir. Bu yetkiler dağıtılarak çok taraflı bağımsız kontroller sağlanabilir. Kontrol dışına çıkan, tehdit ve tehlike yaratan çalışma durumlarında uyulması gereken müdahale politikaları belirlenebilir. Bu politikalar siber güvenlik prosedürlerinde olduğu gibi önceden prova edilebilir ve denetlenebilir. Üretim ve kullanımın her aşaması birçok farklı ve bağımsız otoriteye yayılabilir. Uluslararası bir otorite ile modellerin oluşturulması ve eğitilmesi gibi süreçleri denetlemek yerine, bir model oluşturulduktan sonra ‘insanların hayatlarını nasıl etkiliyor ve insanlara ait hakları ihlal ediyor mu?’ konusu denetlenmeli.” ifadelerini kullandı.
Ulusal bir tehdit içermeyecek düzeyde yapay zekâ kapasitesine ihtiyaç duyan kurumların önünde bir engel oluşmamalı
Her teknolojik gelişim gibi yapay zekâ teknolojisinin de gelişimi için kaynaklara, ticari modellere ve ilgiye muhtaç olduğunu dile Dr. Öğr. Üyesi Nuri Bingöl, “Yapay zekâ konusunda oluşturulacak denetimin ve sınırlandırmanın getireceği ilave önemli yükleri olacak. Yeni uyum süreçleri, zorunluluklar, süreçler finansman ve kaynak kullanımı sınırlandırmaları… Oysa, insanlık için varoluşsal veya ulusal bir tehdit içermeyecek düzeyde yapay zekâ kapasitesine ihtiyaç duyan kurumların önünde bir engel oluşmamalı.” dedi ve bu beklentiyi oluşturacak sınırların kim tarafından ve hangi kriterler ile belirleneceği sorusuna dikkat çekti.
Denetimin ‘nasıl’ uygulanacağı konusunun henüz bir yanıtı yok
Denetim ve sınırlandırmaların nasıl uygulanacağı ile ilgili daha alınacak çok yol olduğunu ifade eden Bingöl, “Bunun için devlet kurumlarının, teknoloji üreticilerinin ve bu konunun fikir öncülerinin beraber çalışması ve çözüm üretmesi kaçınılmaz. Özellikle bu çözümlerin, gelişim önünde engel olmadan ‘nasıl’ uygulanacağı çalışma konusudur ve henüz bir yanıtı yok. Uluslararası bir otorite oluşma fikri ise, bu yanıt bulduğunda bir anlam taşıyacak. Uluslararası bu otoritenin yetkilerinin bireysel, ulusal ve küresel güç sahibi firmalar ile nasıl uyum sağlayacağı, kullanacağı denetim mekanizmaları ve yetkileri gibi soruların da yanıtları netleşecektir.” dedi.
Her ülkenin kendine göre mevzuat ve yönetmelikleri olmalı
Küresel bir otoriteden çok her ülkenin veya ülkeler birliğinin, temel prensiplere ve uyuma sadık kalmak üzere, kendine göre uyarlayabileceği mevzuat ve yönetmelikleri olması gerektiğini dile getiren Dr. Öğr. Üyesi Nuri Bingöl, “Karşılıklı yükümlülükler üzerine bir denge inşa edilmesi ülkemiz açısından da önemli riskleri bertaraf ederek, tersine avantajlar getirir.” dedi.
Türkiye’nin, birçok uluslararası organizasyon ve düzenlemelere tabi olduğunu, bunların getirdiği yükümlülüklere, bağımsızlığı ve güvenliğinden taviz vermeden uyum sağladığı ve taahhütlerini yerine getirebildiğini hatırlatan Bingöl, sözlerini şöyle tamamladı:
“Ülkemiz bunu sağlamak için gerekli resmi, kamu ve özel kurumlara, üniversite ve ar-ge merkezlerine, sivil toplum örgütlerine sahip. Bunlar arasında eşgüdümü sağlayacak mevzuatları oluşturma tecrübesi ve kapasitesi var. Küresel alanda Türkiye bu gibi organizasyonların da tam ortasında olmak zorunda. Güç dengesini korumak ve söz sahibi olmak üzere son yıllarda oldukça gelişmiş yapay zekâ teknolojilerini üretmesi, kullanması ve geliştirmesi ile bu durumu hak ediyor. Ayrıca adalet, hak ve hukuk konularında da yapay zekâ üzerinden öncü rolünü üstlenmeli.”
