OpenAIın Son Teknoloji Yapay Görüş Sistemi Basit Bir Yöntemle Kandırıldı
San Francisco merkezli yapay zekâ araştırma şirketi OpenAI'dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt gibi çok da karmaşık olmayan araçlar aracılığıyla kandırılabileceğini keşfetti. Test için bir nesnenin üzerine başka bir nesnenin adını yazan araştırmacılar, yazılımı kandırarak gördüklerini yanlış tanımlamasını sağladı.
San Francisco merkezli yapay zekâ araştırma şirketi OpenAI'dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt gibi çok da karmaşık olmayan araçlar aracılığıyla kandırılabileceğini keşfetti. Test için bir nesnenin üzerine başka bir nesnenin adını yazan araştırmacılar, yazılımı kandırarak gördüklerini yanlış tanımlamasını sağladı.
Paylaşılan blog gönderisinde "Bu saldırılara tipografik saldırılar diyoruz" diyen araştırmacılar, konu hakkında "Modelin metni güçlü bir şekilde okuma yeteneğinden yararlanarak, elle yazılmış metin fotoğraflarının bile çoğu zaman modeli yanıltabileceğini gördük" ifadelerini kullandı. Bu tür saldırıların, yapay görme sistemlerini kandırabilecek ancak üretilmesi çok daha basit olan "adversarial" görüntülere benzediğini belirtiyorlar.
Modelleri şaşırtmak ve aldatmak için kasıtlı olarak bozulmuş piksellere sahip "adversial" görüntüler, makine görmesine dayanan sistemler için gerçek bir tehlike oluşturuyor. Bir örnek vermek gerekirse araştırmacılar, Tesla'nın sürücüsüz araçlarındaki yazılımının, yola belirli etiketler yapıştırarak uyarı vermeden şerit değiştirmek için kandırılabileceğini göstermişti. Dolayısıyla bu tür saldırılar, tıptan orduya kadar çeşitli AI uygulamaları için ciddi bir tehdit oluşturuyor.
Yine de araştırmacılar, ortaya çıkan bu tehlikenin en azından şimdilik endişelenecek bir şey olmadığını söylüyor. Zira söz konusu OpenAI yazılımı, herhangi bir ticari üründe kullanılmayan CLIP adlı deneysel bir sistem. OpenAI'ın geçtiğimiz aylarda tanıttığı genel amaçlı bir görme sistemi olan CLIP, eğitilmek için internetten alınan yaklaşık 400 milyon adet görüntü ve metin kullanmıştı.
Laboratuvar tarafından paylaşılan bir başka örnek de CLIP'deki kumbaraları tanımlayan nöron oldu. Bu bileşen yalnızca kumbara resimlerine değil, aynı zamanda dolar '$' işaretleri yanıt verir. Yukarıdaki örnekte olduğu gibi araştırmacılar, bir motorlu testereye '$' işaretleri ekleyerek yapay zekanın onu elektrikli testere yerine kumbara olarak tanımlamasını sağladı.
İLGİLİ HABER 12 Gün Şarj Ömrü Vadeden Yeni Akıllı Bileklik OPPO Band Style Tanıtıldı
OpenAI araştırmacıları ayrıca, CLIP'in çoklu biçimli nöronlarının, internette bir arama yaparken karşınıza çıkabilecek ön yargılara ve çağrışımlara sahip olduğunu keşfetti. Bunlardan bazıları 'terörizm' çağrışımına sahip 'Ortadoğu' nöronu ve hem koyu tenli insanlara hem de gorillere karşılık gelen bir başka nörondu.
Kaynak webtekno.com
Fotoğrafı Dahi Çekilmişti: Bilinen En Ağır Kara Deliklerden Biri Keşfedildi
Gökbilimciler, kara deliklerle ilgili şaşırtan bir gelişmeye imza attılar. Dünya'dan 2,7 milyar ışık yılı uzakta bulunan Abell 1201 isimli bir galakside, bugüne kadarki en büyük kara deliklerden bir tanesinin varlığını tespit ettiler. Yapılan incelemeler ve ölçümlere göre bu kara deliğin kütlesi, Güneş'in kütlesinin 32,7 milyar katı. İngiltere'deki Durham Üniversitesi'nden James Nightingale, bu kara deliğin büyüklük açısından üst sınırda olduğunu ifade etti.
Uzak Gelecekte Güneş Tutulması Diye Bir Şey Olmayacak: Peki Neden?
Güneş ve Ay tutulmaları, birçoğumuzu heyecanlandıran olayların başında geliyor. "Ay'ın bir yüzü her zaman karanlıktır" sözünü mutlaka duymuşsunuzdur. Ay'ın karanlık yüzü, bugün Güneş'e döndü.
NASAnın Şimdiye Kadarki En Güçlü Roketi Sınıfta Kaldı: Testlerden Geçemeyen Roket, Ay Görevini Geciktiriyor
NASA, Ay görevi Artemis I için tasarladığı ve şimdiye kadar geliştirilen en güçlü roket olarak nitelendirilen Uzay Fırlatma Sistemi (SLS) roketinin kritik yakıt doldurma testini tamamlamak için yapılan üç denemeden sonra bu denemelere ara vermeye karar verdiğini duyurdu. Uzay ajansı, önümüzdeki günlerde büyük SLS roketini Kennedy Uzay Merkezi'ndeki fırlatma rampasından araç montaj binasına taşımayı planlıyor.
Galaksimiz Hakkında Çığır Açacak Bir Duyurunun Yapılacağı Gizemli Etkinliğe Günler Kaldı: İşte Etkinlik Hakkında Tüm Bilinenler
28 Nisan Perşembe günü yapılan bir duyuruda Avrupa Güney Gözlemevi (ESO) ve Event Horizon Telescope projesinden gökbilimciler, Samanyolu galaksisine dair çığır açıcı yeni bir olayı açıklayacaklarını söylemişlerdi. Açıklayacakları tarih geldi çattı zira ESO, o çok önemli bilgiyi açıklayacağı etkinliğin iki gün sonra, 12 Mayıs Perşembe günü gerçekleşeceğini duyurdu.
Kripto Paralar, Sadece Son 24 Saatte 275 Milyar Dolar Zarar Ettirdi
Kripto para piyasaları, son birkaç gündür tarihinin en sıkıntılı süreçlerinden bir tanesini yaşıyor. Zaten bir süredir küresel ekonomik koşullar nedeniyle sallantıda olan piyasalar, UST (TerraUSD) isimli dolar endeksli kripto para biriminin çöküşü ile büyük bir kaosla karşı karşıya kaldı. Son 24 saatteki toplam kayıpsa 275 milyar doların üzerine çıkmış durumda...