Meta popüler bilim ve teknoloji haber platformu Futurism'e yaptığı açıklamada, yapay zeka araçları MetaAI'ın kullanıcının kendi içeriğini ve internetteki herkese açık bilgileri arayabileceğini belirtirken, YZ aracının “amacını aştığını” kabul etti.
Meta verdiği demeçte, “Bu özelliği, insanların ilgilerini çeken konular veya gönderiler hakkında daha fazla bilgi edinmelerine yardımcı olmak için oluşturmuştuk” dedi.
Anthropic yapay zeka modellerinin silah geliştirilmesinde kullanıldığını tespit etti
Bu arada Anthropic yapay zeka modelinin, biyolojik silah geliştirilmesini destekleyebilecek "kötü amaçlı faaliyetler" için kullanılmasına yönelik girişimler tespit ettiğini ve bunları engellediğini açıkladı.
Bu açıklama, Google'ın benzer açıklamasından yalnızca iki gün sonra geldi.
Dolayısıyla Anthropic'in son tehdit istihbaratı raporunda yer alan bulgular, yapay zeka araştırmacıları ve sektör içinden isimlerin teknolojinin insanlığa yönelik potansiyel risklerine dair artan uyarılarının son örneği oldu.
Artık bu uyarılar harekete geçilmesi yönündeki çağrıları da beraberinde getirdi: ABD Senatörü Bernie Sanders, gelişmiş yapay zeka çalışmalarına ara verilmesini ve yapay süperzekanın yasaklanmasını talep etti.
ABD Başkanı Donald Trump ise şimdiye kadar bu çağrıları reddetti ve perşembe günü yaptığı açıklamada, "Yapay zeka yarışını kazanamazsak çok kötü bir duruma düşeceğimiz konusunda endişeliyim" dedi.
Şirket son tehdit istihbaratı raporunu 10 Eylül'de yayımladı.
Bu rapora göre Anthropic'in yapay zeka modeli Claude, Rusya bağlantılı bir siber casusluk kampanyasıyla ilişkili aktörler ve İranlı bir propaganda kurumu tarafından da kullanıldı.
Öte yandan biyolojik silahlar, insanlara zarar vermek ya da onları öldürmek amacıyla hastalık veya toksin yaymak için tasarlanıyor ve araştırmacılar giderek daha güçlü hale gelen yapay zeka araçlarının bunların geliştirilmesindeki bazı teknik engelleri azaltabileceği konusunda uyarıyor.
Aynı raporda, "modelleri biyolojik silah geliştirmeyi destekleyebilecek şekillerde kullanan aktörlere ilişkin beş vaka incelemesi" öne çıkarıldı.
Yine rapora göre biyolojik amaçlı kötüye kullanım, "öncü yapay zeka modellerinin en ciddi risklerinden biri".
Anthropic, doğru koruma önlemleri olmadan bu tür yeteneklerin "felaket niteliğinde sonuçlara yol açabileceğini" belirtti.
Şirket, "Biyolojik silah geliştirmek için kullanılabilecek aynı bilgiler, örneğin bir aşı ya da bir hastalığın tedavisini geliştirmek için de kullanılabilir" ifadelerini kullandı.
Aynı raporda ayrıca Claude'un "ateşli silahlar, füzeler, silahlı insansız hava araçları, bombalar ve diğer mühimmat türleri ile bunları işleten hedefleme ve kontrol sistemleri de dahil olmak üzere geleneksel silahlara yönelik yazılımlar geliştirmek için" kullanıldığı altı vaka bulunduğu belirtildi.
Siber suçluların ve devlet destekli hackerların operasyonlarına yardımcı olmak için şirket teknolojisini giderek daha fazla kullandığını gösterdi.
Yine raporda ayrıca, faaliyetleri Rusya merkezli Midnight Blizzard ile uyumlu olan bir hacker grubunun, kötü amaçlı yazılımının güvenlik sistemleri tarafından işaretlendiği durumları otomatik olarak tespit eden ve tespit edilmekten kaçınana kadar kodu yeniden yazan bir sistem kurmak için yapay zeka kullandığı iddia edildi.
