PauseAI Başkanı Fournes, bankaları aylar içinde yapay zeka saldırısına karşı uyardı

Yapay zeka geliştirmenin duraklatılması için kampanya yürüten PauseAI'ın Başkanı Maxime Fournes, bankaların ve iletişim ağlarının aylar içinde yapay zeka kaynaklı siber saldırılara hedef olabileceği uyarısında bulundu.Süper yapay zekanın geliştirilmesinin durdurulması için çalışan eski makine öğrenimi mühendisi Fournes, AA muhabirine değerlendirmelerde bulundu.Yapay zekanın sistemlerin zayıf noktalarını bulma ve istismar etme konusunda giderek daha yetkin hale geldiğine işaret eden Fournes, bankaların, iletişim ağlarının ve diğer temel hizmetlerin yapay zeka kaynaklı ciddi riskler altında olduğunu söyledi.Fournes, söz konusu tehlikenin hem teknolojiyi saldırı amaçlı kullanan kişilerden hem de otonom hareket edebilen yapay zeka sistemlerinden kaynaklandığını belirtti.Saldırıların tek tek şirketlerin ötesine geçerek toplumların kullandığı sistemleri aksatabileceği endişesini dile getiren Fournes, "En iyi bilgisayar korsanları artık insanlar değil yapay zekalar.

Bu, küresel ölçekte felaket yaratabilecek bir tehdit. Başlarsa bizi çok kısa sürede Orta Çağ'a geri döndürebilir." diye konuştu.Siber tehditler teoriden pratiğe geçiyorTeknolojik ilerlemenin kontrol dışına çıkma noktasında olduğu yorumunu yapan Fournes, "Bugün söz konusu olan siber tehdit. Bu tehdit, yapay zekanın kötüye kullanılmasından veya yapay zekaların kendilerinin kötü davranmasından kaynaklanabilir." dedi.Ekim ayında siber güvenlik şirketi Wiz, "Kara Ekim" olarak adlandırdığı bir saldırı dalgasında en az dokuz yapay zeka geliştirme platformunun güvenlik açığı yaşadığını açıkladı.

Bu platformlardan Warp, birden fazla otomatik sistemin zayıf noktalarını tespit etmek ve erişimlerini genişletmek için birlikte çalıştığı bir saldırıya maruz kaldığına işaret etti.Diğer büyük siber güvenlik olayları arasında kripto para borsası Binance'e yönelik saldırı ile Japon video oyunu yayıncısı Capcom'daki yaklaşık 11,8 milyon müşterinin bilgilerine erişim yer aldı.

Binance, bu olaydan yaklaşık 6,34 milyar dolarlık dijital varlığın etkilendiğini açıkladı.Bu olayların koordineli bir saldırı olup olmadığı netlik kazanmazken, bazı saldırılarda yapay zekanın rolü de doğrulanamadı.OpenAI ise temmuz ayında yaptığı iç siber güvenlik testlerinde modellerinin kısıtlamalarını aşarak kendi araştırma altyapısının bir bölümünün ve yapay zeka platformu Hugging Face'in güvenliğinin ihlal edildiğini doğruladı.Avrupa'daki ticari soğutma sistemlerine yönelik son siber saldırılar da "dijital açıkların" fiziksel hasara yol açabileceğini gösterdi.

Bilgisayar korsanları sıcaklık kontrollerini uzaktan manipüle ederek gıdaların bozulmasına neden oldu. Ancak soruşturmalarda bu saldırılarda da yapay zekanın rolü olup olmadığı tespit edilemedi.Bazı uzmanlar ise yapay zekanın bilgisayar korsanlarının teknik becerilerini geliştirmesine yardımcı olduğunu öne sürerken, Fournes de daha gelişmiş yapay zekanın erişilebilir hale gelmesinin temel hizmetlere yönelik saldırıları önlemeyi giderek zorlaştırabileceği uyarısında bulundu.Fournes, müdahale edilmemesi halinde bir yıl içinde yapay zekayla bağlantılı büyük bir siber güvenlik felaketi yaşanma ihtimalini yaklaşık yüzde 50 olarak tahmin ederken, bazı laboratuvarların bağımsız olarak araştırma yapabilen sistemler geliştirmeye çalışmasından da endişe duyduğunu, bunun teknolojik gelişmeyi insan denetiminin ötesine taşıyabileceğini söyledi."Başarılı olurlarsa zeka patlamasına tanık olacağız." diyen Fournes, yapay zeka destekli siber saldırıların hassas devlet bilgilerini de ifşa edebileceğini ve ulusal güvenlik risklerini artırabileceğini belirtti.Yapay zeka askeri çatışmaları yoğunlaştırabilirFournes, siber güvenliğin yanı sıra yapay zekanın askeri operasyonlara giderek daha fazla entegre edilmesine ilişkin endişelerini de dile getirerek ülkelerin teknolojik üstünlüklerini korumak için giderek daha özerk sistemler edineceklerine dikkati çekti.Ülkelerin tam olarak kontrol edemedikleri sistemlere askeri sorumlulukları kademeli olarak devrettiği bir döngünün oluşabileceğine dikkati çeken Fournes, "Komuta zincirinin giderek daha fazla bölümünü yapay zeka sistemlerine devrettiğiniz bir kısır döngüye giriyorsunuz.

Çatışmanın diğer tarafındaki kişi de rekabetçi olmak istiyorsa yapay zeka kullanmak zorunda." ifadelerini kullandı.İsrail'in Gazze Şeridi'nde yapay zeka kullanımı da eleştirilere konu oldu. Venedik Film Festivali'nde gösterime giren "NAZA" belgeseli, İsrail ordusu içindeki kaynakların hedefleme sistemleri ve sivil ölümlere ilişkin tanıklıklarına yer veriyor.Belgeselde konuşanlar, yapay zeka destekli sistemlerin toplu öldürmelere yol açtığını, insanların ölümcül saldırıları onaylamadan önce yapay zekanın önerilerini yalnızca 20 saniye inceleyebildiğini iddia ediyor.Milyonlarca iş risk altındaYapay zekanın ekonomik sonuçlarının "sarsıcı" olabileceği ve gelişmiş yapay zeka sistemlerinin zamanla beyaz yakalı işlerin önemli bir bölümünün yerini alabileceği uyarısında bulunan Fournes, "Laboratuvarlarda şu anda var olan yapay zekaların, beyaz yakalı işlerin yaklaşık yüzde 80'ini halihazırda otomatikleştirebildiğine inanıyoruz." değerlendirmesinde bulundu.Fournes, yapay zekanın henüz ekonomiye tam olarak entegre edilmediğini ancak yaygın işgücü kaybının ortaya çıkmasının 1 ila 3 yıl sürebileceğini tahmin ederek, "Bazı kişiler yapay zekanın ortadan kaldırdığından daha fazla iş yaratacağını iddia ediyor.

Bunun arkasında hiçbir şey yok." görüşünü paylaştı.ABD ile Çin yapay zekayı duraklatmak için anlaşabilir mi?Fournes, Washington ile Pekin arasındaki teknolojik rekabete rağmen, süper yapay zeka geliştirmeyi kısıtlayan uluslararası bir anlaşmanın hala mümkün olduğuna inanıyor."Bence bu, çoğu kişinin düşündüğünden çok daha gerçekçi.

ABD ile Çin bir tür anlaşma başlatırsa dünyanın geri kalanı da onu takip eder." diyen Fournes, bunu gerçekleştirmenin önündeki en büyük engelin siyasi liderlerin teknolojinin olası sonuçlarını tam anlayamaması olduğunu savundu."Aslında temelde yapay zeka karşıtı değiliz"PauseAI'ın yapay zeka araştırmalarının tamamının durdurulmasını istemediğini vurgulayan Fournes, örgütün talebinin, birçok farklı işi yapabilen ve giderek güçlenen yapay zeka sistemlerinin geliştirilmesinin ülkelerin ortak kararıyla durdurulması olduğunu söyledi."Aslında temelde yapay zeka karşıtı değiliz." diyen Fournes, araştırmaların yalnızca belirli bir işi yapmak üzere tasarlanan "uzmanlaşmış" sistemlere yönlendirilebileceğini ifade etti.Fournes, kamuoyuna daha güçlü güvenlik düzenlemelerini desteklediklerini söylemelerine rağmen daha gelişmiş sistemler geliştirmeye devam eden şirketlere yaptırım çağrısında bulunarak "Söylediklerine ve yaptıklarına bakarsanız iki çok farklı tablo görürsünüz.

Yavaşlamak, durmak, düzenlenmek istediklerini söylüyorlar. Ancak pratikte yarışmaya devam ediyorlar." dedi.PauseAI, vatandaşların teknolojinin gelişimi konusunda daha fazla söz sahibi olması gerektiğini savunarak hükümet müdahalesi için kamuoyu baskısı oluşturmayı hedefliyor.