OpenAIın Son Teknoloji Yapay Görüş Sistemi Basit Bir Yöntemle Kandırıldı
San Francisco merkezli yapay zekâ araştırma şirketi OpenAI'dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt gibi çok da karmaşık olmayan araçlar aracılığıyla kandırılabileceğini keşfetti. Test için bir nesnenin üzerine başka bir nesnenin adını yazan araştırmacılar, yazılımı kandırarak gördüklerini yanlış tanımlamasını sağladı.
San Francisco merkezli yapay zekâ araştırma şirketi OpenAI'dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt gibi çok da karmaşık olmayan araçlar aracılığıyla kandırılabileceğini keşfetti. Test için bir nesnenin üzerine başka bir nesnenin adını yazan araştırmacılar, yazılımı kandırarak gördüklerini yanlış tanımlamasını sağladı.
Paylaşılan blog gönderisinde "Bu saldırılara tipografik saldırılar diyoruz" diyen araştırmacılar, konu hakkında "Modelin metni güçlü bir şekilde okuma yeteneğinden yararlanarak, elle yazılmış metin fotoğraflarının bile çoğu zaman modeli yanıltabileceğini gördük" ifadelerini kullandı. Bu tür saldırıların, yapay görme sistemlerini kandırabilecek ancak üretilmesi çok daha basit olan "adversarial" görüntülere benzediğini belirtiyorlar.
Modelleri şaşırtmak ve aldatmak için kasıtlı olarak bozulmuş piksellere sahip "adversial" görüntüler, makine görmesine dayanan sistemler için gerçek bir tehlike oluşturuyor. Bir örnek vermek gerekirse araştırmacılar, Tesla'nın sürücüsüz araçlarındaki yazılımının, yola belirli etiketler yapıştırarak uyarı vermeden şerit değiştirmek için kandırılabileceğini göstermişti. Dolayısıyla bu tür saldırılar, tıptan orduya kadar çeşitli AI uygulamaları için ciddi bir tehdit oluşturuyor.
Yine de araştırmacılar, ortaya çıkan bu tehlikenin en azından şimdilik endişelenecek bir şey olmadığını söylüyor. Zira söz konusu OpenAI yazılımı, herhangi bir ticari üründe kullanılmayan CLIP adlı deneysel bir sistem. OpenAI'ın geçtiğimiz aylarda tanıttığı genel amaçlı bir görme sistemi olan CLIP, eğitilmek için internetten alınan yaklaşık 400 milyon adet görüntü ve metin kullanmıştı.
Laboratuvar tarafından paylaşılan bir başka örnek de CLIP'deki kumbaraları tanımlayan nöron oldu. Bu bileşen yalnızca kumbara resimlerine değil, aynı zamanda dolar '$' işaretleri yanıt verir. Yukarıdaki örnekte olduğu gibi araştırmacılar, bir motorlu testereye '$' işaretleri ekleyerek yapay zekanın onu elektrikli testere yerine kumbara olarak tanımlamasını sağladı.
İLGİLİ HABER 12 Gün Şarj Ömrü Vadeden Yeni Akıllı Bileklik OPPO Band Style Tanıtıldı
OpenAI araştırmacıları ayrıca, CLIP'in çoklu biçimli nöronlarının, internette bir arama yaparken karşınıza çıkabilecek ön yargılara ve çağrışımlara sahip olduğunu keşfetti. Bunlardan bazıları 'terörizm' çağrışımına sahip 'Ortadoğu' nöronu ve hem koyu tenli insanlara hem de gorillere karşılık gelen bir başka nörondu.
Kaynak webtekno.com
Samsung Galaxy Z Flip5 Tek Tek Parçalarına Ayrıldı: "Katlanabilir Telefonlar Dayanıksız" Fikri Yıkılacak
Güney Koreli teknoloji devi Samsung'un temmuz ayında tanıttığı Galaxy Z Flip5 isimli katlanabilir ekranlı telefonu, dikkat çeken bir proje ile gündemde. YouTube'da teknolojik ürünler üzerine videolar çeken JerryRigEverything, akıllı telefonunun "içini dışına çıkardı". Böylelikle Samsung'un lansmanda üstünü defalarca çizdiği menteşe tasarımından tutun da bataryaya kadar her parça gün yüzüne çıkmış oldu.
ChatGPT’nin Artık Gözleri Var! Bir Geliştirici, Telefon ile Yapay Zekâya Görme Yetisi Kazandırdı
Üretken yapay zekâlar arasında en ön plana çıkanlardan birisi olan ChatGPT, ne yazık ki bize açılan sürümünde henüz görselleri ve videoları analiz edemiyor. Peki, edebilseydi neler yapabilirdi?
Steam’de Alışveriş Yaparken Karşılaştığımız Ödeme Seçeneği BoaCompra Nedir, Ne İşe Yarar?
İnternetten alışveriş yapmak, her ne kadar 2022 yılında olsak bile yine güvensizlikleri meydana getiriyor. Kullanıcılar, ödeyecekleri ücret sonrasında hizmet alamamaktan oldukça korkuyor ve bu nedenle ne kadar güvenilir olsa bile o siteden alışveriş yapmıyor. Bugün, sizler için dünya genelinde bilinen ve en güvenilir ödeme sistemlerinden bir tanesi olan BoaCompra nedir, ne işe yarar sorularını yanıtlayacağız.
Apple Üst Düzey Yöneticisi, "Arabanız Güzelmiş, Ne İş Yapıyorsunuz" Videosunda Verdiği Cevap Yüzünden İşinden Oldu!
Günümüzde sosyal medyanın bitki örtüsü haline dönüşen ve dünya çapında TikTok yıldızı Daniel Mac ile popülerleşen “Arabanız güzelmiş, ne iş yapıyorsunuz?” videoları, artık başka bir boyuta ulaştı. Fenomenler, sürekli çok ünlü isimlerle ‘karşılaşmaya’ başlamışken, bugün bu karşılaşmalardan birinin kötü sonuçlandığı öğrenildi.
Belki de Şimdi iPhoneun Rakibi Olacaktı: İlk Yerli Cep Telefonumuz ASELSAN 1919 Hakkında 8 İlginç Bilgi
Bugün içinde yaşadığımız dönem teknoloji çağı olarak adlandırılıyor. Askeri ya da ekonomik güçler bile ne kadar paranız ve askeriniz olduğuyla değil, bu alanlarda hangi teknolojileri kullandığınıza göre şekilleniyor. Bu çağın yeni başladığı 1990’lı yılların sonlarında, henüz cep telefonları yeni yeni yaygınlaşıyorken ülkemizin en önemli kurumlarından biri olan ASELSAN, ASELSAN 1919 adıyla bir cep telefonu modeli üretti.