Siber Muhbir

Avrupa Birliği müzakerecileri Cuma günü, dünyanın ilk kapsamlı yapay zeka kuralları üzerinde bir anlaşma imzaladılar ve günlük yaşamı dönüştürmeyi vaat eden ve insanlığa yönelik varoluşsal tehlikelere dair uyarıları teşvik eden AI teknolojisinin yasal gözetiminin önünü açtılar.

Avrupa Parlamentosu'ndan ve bloğun 27 üye ülkesinden müzakereciler, Yapay Zeka Yasası için geçici bir siyasi anlaşma imzalamak için üretken yapay zeka ve polisin yüz tanıma gözetimini kullanması da dahil olmak üzere tartışmalı noktalardaki büyük farklılıkların üstesinden geldi.

"Anlaştık!" diye tweet attı Avrupa Komisyonu Üyesi Thierry Breton gece yarısından hemen önce. "AB, yapay zeka kullanımı için net kurallar koyan ilk kıta oldu."

Sonuç, bu hafta kapalı kapılar ardında yapılan görüşmelerin ardından geldi ve ilk oturum, Cuma sabahı ikinci turun başlamasından önce 22 saat sürdü.

Yetkililer, amiral gemisi mevzuatı için siyasi bir zafer elde etmek için silah altındaydı. Ancak sivil toplum grupları, önümüzdeki haftalarda çözülmesi gereken teknik detayları beklerken bunu soğukkanlılıkla karşıladı. Anlaşmanın, insanları yapay zeka sistemlerinin neden olduğu zararlardan korumada yeterince ileri gitmediğini söylediler.

Bir teknoloji endüstrisi lobi grubu olan Bilgisayar ve İletişim Endüstrisi Birliği'nin Avrupa ofisi başkanı Daniel Friedlaender, "Bugünün siyasi anlaşması, AI Yasası'nın hala eksik olan önemli ayrıntıları üzerinde önemli ve gerekli teknik çalışmaların başlangıcını işaret ediyor" dedi.

AB, 2021'de kural kitabının ilk taslağını açıkladığında, yapay zeka korkulukları çizmek için küresel yarışta erken bir liderlik yaptı. Bununla birlikte, üretken yapay zekadaki son patlama, Avrupalı yetkilileri dünya için bir plan olarak hizmet etmeye hazır bir teklifi güncellemek için çabalamaya gönderdi.

Avrupa Parlamentosu'nun gelecek yılın başlarında yasayı oylaması gerekecek, ancak anlaşmanın yapılmasıyla bu bir formalite, organın müzakere çabalarına liderlik eden İtalyan milletvekili Brando Benifei, Cuma günü geç saatlerde verdiği demeçte.

"Çok çok iyi," dedi istediği her şeyi içerip içermediği sorulduktan sonra kısa mesajla. "Açıkçası bazı tavizleri kabul etmek zorunda kaldık ama genel olarak çok iyi." Nihai yasa en erken 2025 yılına kadar tam olarak yürürlüğe girmeyecek ve 35 milyon avroya (38 milyon $) veya bir şirketin küresel cirosunun %7'sine kadar olan ihlaller için sert mali cezalar tehdidinde bulunuyor.

OpenAI'nin ChatGPT'si gibi üretken yapay zeka sistemleri, insan benzeri metinler, fotoğraflar ve şarkılar üretme yeteneğiyle kullanıcıların gözlerini kamaştırarak dünyanın bilincinde patladı, ancak hızla gelişen teknolojinin işler, mahremiyet ve telif hakkı koruması ve hatta insan hayatının kendisi için oluşturduğu risklerle ilgili korkuları artırdı.

Şimdi, ABD, İngiltere, Çin ve 7 büyük demokrasi grubu gibi küresel koalisyonlar, hala Avrupa'yı yakalamalarına rağmen, AI'yı düzenlemek için kendi önerileriyle atladılar.

AB hukuku ve dijital düzenleme konusunda uzman olan Columbia Hukuk Fakültesi profesörü Anu Bradford, AB'den gelen güçlü ve kapsamlı kuralların "düzenlemeyi düşünen birçok hükümet için güçlü bir örnek oluşturabileceğini" söyledi. Diğer ülkeler "her hükmü kopyalamayabilir, ancak muhtemelen birçok yönünü taklit edecektir."

AB'nin kurallarına tabi olan AI şirketlerinin de bu yükümlülüklerin bir kısmını kıta dışına çıkaracağını söyledi. "Sonuçta, farklı pazarlar için ayrı modelleri yeniden eğitmek verimli değil" dedi.

Yapay Zeka Yasası başlangıçta, risk seviyelerine göre düşükten kabul edilemeze kadar belirli yapay zeka işlevlerinden kaynaklanan tehlikeleri azaltmak için tasarlanmıştır. Ancak milletvekilleri, ChatGPT ve Google'ın Bard sohbet robotu gibi genel amaçlı yapay zeka hizmetlerinin temelini oluşturan gelişmiş sistemler olan temel modellere genişletmeye zorladı.

Fondöten modelleri, Avrupa için en büyük yapışma noktalarından biri olacak gibi görünüyordu. Bununla birlikte, müzakereciler, OpenAI'nin destekçisi Microsoft da dahil olmak üzere büyük ABD rakipleriyle rekabet eden yerli Avrupalı üretken yapay zeka şirketlerine yardımcı olmak için kendi kendini düzenleme çağrısında bulunan Fransa liderliğindeki muhalefete rağmen, müzakerelerin başlarında geçici bir uzlaşmaya varmayı başardılar.

Büyük dil modelleri olarak da bilinen bu sistemler, internetten kazınan çok sayıda yazılı eser ve görüntü üzerinde eğitilmiştir. Üretken yapay zeka sistemlerine, verileri işleyen ve önceden belirlenmiş kuralları kullanarak görevleri tamamlayan geleneksel yapay zekanın aksine yeni bir şey yaratma yeteneği verirler.

Vakıf modelleri inşa eden şirketler, teknik belgeler hazırlamak, AB telif hakkı yasasına uymak ve eğitim için kullanılan içeriği detaylandırmak zorunda kalacaklar. "Sistemik riskler" oluşturan en gelişmiş temel modeller, bu risklerin değerlendirilmesi ve azaltılması, ciddi olayların bildirilmesi, siber güvenlik önlemlerinin alınması ve enerji verimliliğinin raporlanması dahil olmak üzere ekstra incelemeye tabi tutulacaktır.

Araştırmacılar, bir avuç büyük teknoloji şirketi tarafından inşa edilen güçlü temel modellerinin, çevrimiçi dezenformasyon ve manipülasyonu, siber saldırıları veya biyolojik silahların yaratılmasını güçlendirmek için kullanılabileceği konusunda uyardılar.

Hak grupları ayrıca, modelleri eğitmek için kullanılan verilerle ilgili şeffaflık eksikliğinin, yapay zeka destekli hizmetler oluşturan yazılım geliştiriciler için temel yapılar olarak hareket ettikleri için günlük yaşam için risk oluşturduğuna dikkat çekiyor.

En çetrefilli konu yapay zeka destekli yüz tanıma gözetim sistemleriydi ve müzakereciler yoğun pazarlıklardan sonra bir uzlaşma buldular.

Avrupalı milletvekilleri, gizlilik endişeleri nedeniyle yüz tarama ve diğer "uzaktan biyometrik tanımlama" sistemlerinin kamu tarafından kullanılmasının tamamen yasaklanmasını istedi. Ancak üye ülkelerin hükümetleri, kolluk kuvvetlerinin çocuk cinsel istismarı veya terörist saldırılar gibi ciddi suçlarla mücadele etmek için kullanabilmesi için muafiyetleri müzakere etmeyi başardı.

Hak grupları, göç ve sınır kontrolünde kullanılan yapay zeka sistemleri için koruma eksikliği ve geliştiricilerin sistemlerinin yüksek riskli olarak sınıflandırılmasını devre dışı bırakma seçeneği de dahil olmak üzere Yapay Zeka Yasası'ndaki muafiyetler ve diğer büyük boşluklardan endişe duyduklarını söyledi.

Dijital haklar grubu Access Now'da kıdemli bir politika analisti olan Daniel Leufer, "Bu son müzakerelerde zaferler ne olursa olsun, bu nihai metinde büyük kusurların kalacağı gerçeği devam ediyor" dedi.