# Google, Yapay Zeka Tehditleriyle Mücadele Etmek İçin Hata Ödül Programını Genişletiyor

- Yayın: 2023-10-30 23:55 (Europe/Istanbul)
- Kategori: Güvenlik Açıkları
- Yazar: Burak Akmeşe
- Kaynak adres: https://sibermuhbir.com/haber/google-yapay-zeka-tehditleriyle-mucadele-etmek-icin-hata-odul-programini-genisletiyor-213

> Google, yapay zeka güvenliğini ve güvenliğini artırmak amacıyla araştırmacıların üretken yapay zeka (AI) sistemlerine uyarlanmış saldırı senaryoları bulmasını telafi etmek için Güvenlik Açığı Ödül Programını (VRP) genişlettiğini duyurdu.

Google'dan Laurie Richardson ve Royal Hansen, "Üretken yapay zeka, haksız önyargı, model manipülasyonu veya verilerin yanlış yorumlanması (halüsinasyonlar) gibi geleneksel dijital güvenlikten yeni ve farklı endişeler ortaya çıkarıyor" [dedi](https://blog.google/technology/safety-security/google-ai-security-expansion/).

Kapsam dahilindeki kategorilerden bazıları arasında hızlı enjeksiyonlar, eğitim veri kümelerinden hassas verilerin sızması, model manipülasyonu, yanlış sınıflandırmayı tetikleyen çekişmeli bozulma saldırıları ve model hırsızlığı [yer alır](https://security.googleblog.com/2023/10/googles-reward-criteria-for-reporting.html).

Google'ın bu Temmuz ayının başlarında, Güvenli Yapay Zeka Çerçevesinin ([SAIF)](https://blog.google/technology/safety-security/introducing-googles-secure-ai-framework/) bir parçası olarak yapay zeka sistemlerine yönelik tehditleri ele almaya yardımcı olmak için bir [Yapay Zeka Kırmızı Ekibi](https://blog.google/technology/safety-security/googles-ai-red-team-the-ethical-hackers-making-ai-safer/) kurduğunu belirtmekte fayda var.

Ayrıca, yapay zekayı güvence altına alma taahhüdünün bir parçası olarak, Yazılım Yapıları için Tedarik Zinciri Seviyeleri (SLSA) ve Sigstore gibi mevcut açık kaynaklı güvenlik girişimleri aracılığıyla yapay zeka tedarik zincirini güçlendirme çabaları da duyuruldu.

![](https://sibermuhbir.com/uploads/legacy/files/Ads%C4%B1z%20tasar%C4%B1m%20(11).png)

Google, "Kullanıcıların yazılımın kurcalanmadığını veya değiştirilmediğini doğrulamasına olanak tanıyan Sigstore'dakiler gibi dijital imzalar" [dedi](https://security.googleblog.com/2023/10/increasing-transparency-in-ai-security.html).

"Bize yazılımda ne olduğunu ve nasıl oluşturulduğunu söyleyen, tüketicilerin lisans uyumluluğunu sağlamasına, bilinen güvenlik açıklarını belirlemesine ve daha gelişmiş tehditleri tespit etmesine olanak tanıyan SLSA kaynağı gibi meta veriler."

Gelişme, [OpenAI'nin](https://openai.com/blog/frontier-risk-and-preparedness) siber güvenlik, kimyasal, biyolojik, radyolojik ve nükleer (KBRN) tehditleri kapsayan üretken yapay zekaya yönelik yıkıcı risklere karşı "izlemek, değerlendirmek, tahmin etmek ve korumak" için yeni bir dahili Hazırlık ekibini açıklamasıyla geldi.

İki şirket, Anthropic ve Microsoft'un yanı sıra, yapay zeka güvenliği alanındaki araştırmaları teşvik etmeye odaklanan [10 milyon dolarlık bir Yapay Zeka Güvenlik Fonu'nun](https://blog.google/outreach-initiatives/public-policy/google-microsoft-anthropic-open-ai-frontier-model-forum-executive-director/) oluşturulduğunu da duyurdu.