OpenAI'ın Yapay Görüş Sistemi Kolay Bir Usulle Kandırıldı - Birnebze.com
Bizimle iletişime geçin

Bilim&Teknoloji

OpenAI’ın Yapay Görüş Sistemi Kolay Bir Usulle Kandırıldı

San Francisco merkezli yapay zekâ araştırma şirketi OpenAI’dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt üzere …

Yayınlanan

üzerinde

San Francisco merkezli yapay zekâ araştırma şirketi OpenAI’dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt üzere çok da karmaşık olmayan araçlar aracılığıyla kandırılabileceğini keşfetti. Test için bir objenin üzerine öbür bir objenin ismini yazan araştırmacılar, yazılımı kandırarak gördüklerini yanlış tanımlamasını sağladı.

Paylaşılan blog gönderisinde “Bu akınlara tipografik akınlar diyoruz” diyen araştırmacılar, husus hakkında “Modelin metni güçlü bir halde okuma yeteneğinden yararlanarak, elle yazılmış metin fotoğraflarının bile birden fazla vakit modeli yanıltabileceğini gördük” sözlerini kullandı. Bu cins atakların, yapay görme sistemlerini kandırabilecek fakat üretilmesi çok daha kolay olan “adversarial” manzaralara benzediğini belirtiyorlar.

Sistemi eğitmek için 400 milyondan fazla data kullanıldı:

Modelleri şaşırtmak ve aldatmak için kasıtlı olarak bozulmuş piksellere sahip “adversial” manzaralar, makine görmesine day sistemler için gerçek bir tehlike oluşturuyor. Bir örnek vermek gerekirse araştırmacılar, Tesla’nın şoförsüz araçlarındaki yazılımının, yola makul etiketler yapıştırarak ikaz vermeden şerit değiştirmek için kandırılabileceğini göstermişti. Hasebiyle bu cins taarruzlar, tıptan orduya kadar çeşitli AI uygulamaları için önemli bir tehdit oluşturuyor.

Tekrar de araştırmacılar, ortaya çıkan bu tehlikenin en azından şimdilik endişelenecek bir şey olmadığını söylüyor. Çünkü kelam konusu OpenAI yazılımı, rastgele bir ticari eserde kullanılmayan CLIP isimli deneysel bir sistem. OpenAI’ın geçtiğimiz aylarda tanıttığı genel gayeli bir görme sistemi olan CLIP, eğitilmek için internetten alınan yaklaşık 400 milyon adet manzara ve metin kullanmıştı.

Laboratuvar tarafından paylaşılan bir diğer örnek de CLIP’deki kumbaraları tanımlayan nöron oldu. Bu bileşen sırf kumbara fotoğraflarına değil, birebir vakitte dolar ‘$’ işaretleri cevap verir. Üstteki örnekte olduğu üzere araştırmacılar, bir motorlu testereye ‘$’ işaretleri ekleyerek yapay zekanın onu elektrikli testere yerine kumbara olarak tanımlamasını sağladı.

OpenAI araştırmacıları ayrıyeten, CLIP’in çoklu biçimli nöronlarının, internette bir arama yaparken karşınıza çıkabilecek ön yargılara ve çağrışımlara sahip olduğunu keşfetti. Bunlardan kimileri ‘terörizm’ çağrışımına sahip ‘Ortadoğu’ nöronu ve hem koyu ciltli insanlara hem de gorillere karşılık gelen bir öbür nörondu.

İlan
Yorum yapmak için tıklayın

Cevap bırakın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Bilim&Teknoloji

Fukushima’nın “Radyasyonlu Suyu” Konusunda Büyük Hengame Başlamak Üzere

Japonya Hükumeti, bir süre önce büyük bir felaketin yaşandığı Fukushima Daiichi nükleer enerji santrallerindeki kirli suyu yaklaşık iki yıl …

Japonya Hükumeti, bir süre önce büyük bir felaketin yaşandığı Fukushima Daiichi nükleer enerji santrallerindeki kirli suyu yaklaşık iki yıl içerisinde Pasifik okyanusuna boşaltmaya başlayacağını duyurdu. Bu karar şimdiden Başbakan Yoshihide Suga'nın konutu dışında protestolara sebep olmuş durumda ancak Uluslararası Atomik Enerji Kurumu ve en azından bazı bağımsız uzmanlar tarafından destekleniyor.Hükumetin bu kararı düşünülmeden alınmış bir karar değil. Kirli su havuzları 2011 yılındaki felaketten beri dolmaktayd
Okumaya devam et

Trendler