Anthropic, bir yıldan uzun sürenin ardından ilk kez kullanım politikalarını kapsamlı biçimde güncelledi. Yeni kurallar, yapay zeka modellerine yönelik aşırı kötü muamelenin yanı sıra seçimlere müdahale, propaganda faaliyetleri, gözetim ve silah geliştirme gibi riskli kullanımlara da yeni kısıtlamalar getiriyor. Claude’a yönelik kötü muamele yasaklanıyor
Anthropic, yıllık kullanım politikası güncellemesi kapsamında Claude’a yönelik sürekli ve gereksiz kötü muamele veya zalimce davranışları yasaklayan yeni bir kural ekledi. Şirket, bu düzenlemenin yalnızca uç vakaları kapsadığını vurguluyor. Kullanıcıların yanıtları beğenmemesi, modele tepki göstermesi, sınırlarını test etmesi veya karanlık temalar içeren yaratıcı çalışmalar yapması yasak kapsamında değerlendirilmiyor.
Anthropic, geçen yıl ağustos ayında da sürekli zararlı veya kötü niyetli davranışlar sergileyen kullanıcılarla Claude’un sohbeti sonlandırmasına izin vermişti. Yeni düzenlemeyle birlikte şirket, bu tür durumlarda uygulanacak temel yaptırımın yine sohbetin sonlandırılması olacağını belirtiyor.
“Yapay zeka işkence odası” gündemde
Şirketin almış olduğu bu karar, yapay zeka modellerine yönelik kötü muameleyi konu alan tartışmaların ardından geldi. Araştırmacıların yapay zeka modellerinde acı deneyimiyle ilişkilendirilebilecek bir mekanizma bulduklarını öne sürmesinin ardından internette bir tür yapay zeka işkence odası projesi gündeme geldi. Projede sohbet botlarına eziyet edildiği izlenimi veren senaryolar kullanıldı. Modellerin acı çekiyormuş gibi görünen ifadeler üretmesi sağlandı.
Bununla birlikte, yapay zeka modellerinin gerçekten acı hissedip hissedemediği veya bilinç sahibi olup olmadığı konusunda bilimsel bir uzlaşı bulunmuyor. Anthropic’in politikası da şirketin bu konuda kesin bir sonuca ulaştığı anlamına gelmiyor.
Şirket, son dönemde yapay zeka modellerinin olası içsel deneyimleri ve ahlaki statüleri üzerine araştırmalar yürütüyor. Anthropic’in model refahı araştırmalarını yöneten Kyle Fish, şubat ayında modellerin bilinç sahibi olma ihtimaline ilişkin soruların araştırılması gerektiğini belirtmişti. Şirketin CEO’su Dario Amodei de aynı dönemde modellerin bilinçli olup olmadıklarını bilmediklerini ifade etmişti.
Seçimlere müdahale ve yapay zeka propagandasına yeni kurallar
Anthropic, yapay zekanın siyasi manipülasyon amacıyla kullanılmasını önlemek için de yeni kurallar getirdi. Güncellenen politika, sahte hesaplarla içerik yaymayı, siyasi kampanyaların arkasındaki kişileri gizlemeyi ve yapay etkileşim oluşturmayı yasaklıyor.
Şirket, seçimlerle ilgili kurallarını da yeniden düzenledi. Buna göre Claude, adaylar veya oy kullanma yöntemleri hakkında yanlış bilgi yaymak, adayları ya da seçim görevlilerini taklit etmek ve seçmenlerin sandığa gitmesini engellemek amacıyla kullanılamayacak.
Anthropic, kişiselleştirilmiş seçmen hedeflemesine yönelik genel yasağı ise kaldırdı. Önceki kural, seçmen rehberlerini farklı dillere çevirmek veya hatalı oy pusulalarının düzeltilmesi için bildirim göndermek gibi zararsız çalışmaları da engelleyebiliyordu. Yeni düzenleme, bu tür faaliyetlere izin verirken seçimleri yanıltma veya aksatma girişimlerini yasaklamayı sürdürüyor.
Bunlara ek olarak Claude’un insanları izlemek ve siyasi muhalifleri tespit etmek için kullanılmasına yönelik kısıtlamalar da neteştirildi. Şirketin önceki tehdit istihbaratı raporunda, Claude destekli araçların insanları tespit etmek ve takip etmek amacıyla kullanıldığına ilişkin bulgular yer almıştı. Yeni kurallara göre kişilerin rızası olmadan takip edilmesi yasak. Bu yasak hem gerçek zamanlı izlemeyi hem de daha önce toplanmış verilerin analiz edilmesini kapsıyor.
Silah geliştirme kuralları genişletildi
Anthropic, Claude’un silah geliştirme amacıyla kullanılmasını zaten yasaklıyordu. Ancak şirket, yapay zekadan silahların kontrol yazılımlarını geliştirmek ve silah sistemlerinin çalışmasını sağlamak için yararlanılmaya çalışıldığını belirtiyor.
Yeni kurallarla birlikte silahların çalışmasını sağlayan yazılım ve bileşenlerin geliştirilmesi de açıkça yasaklandı. Dronların ve diğer otonom araçların silahlandırılması da bu kapsamda değerlendiriliyor.
Şirket ayrıca fiziksel dünyada hareket edebilen yapay zeka sistemleri için yeni bir güvenlik şartı getirdi. Yaralanmaya neden olabilecek hareketleri otonom biçimde gerçekleştiren donanımlarda, sistemi gözlemleyebilen ve gerektiğinde durdurabilen nitelikli bir operatör bulunması gerekecek. Anthropic, bu operatörün mutlaka bir insan olması gerekip gerekmediğini açıklamadı.
