AnasayfainetAB: Yapay zeka, otonom araçları siber saldırılara karşı "son derece savunmasız" hale getiriyor

AB: Yapay zeka, otonom araçları siber saldırılara karşı "son derece savunmasız" hale getiriyor

Otonom araçların amacı, insan hatasını önlemek ve hayat kurtarmaktır, ancak Avrupa Birliği Devlet Güvenliği Ajansı (ENISA) tarafından hazırlanan yeni bir rapor, otonom araçların "çok çeşitli saldırılara karşı son derece savunmasız" olduğunu ortaya koymuştur. yolculara, yayalara ve diğer araçların sakinlerine. Raporda tartışılan saldırılar, eğitim verilerinde veya fiziksel dünyada meydana gelen ışık sensörü saldırıları, nesne algılama sistemleri, kötü amaçlı arka uç etkinliği ve rakip makine öğrenimi saldırılarıyla ilgilidir.

otonom AI araçları
AB: Yapay zeka, otonom araçları siber saldırılara karşı "son derece savunmasız" hale getiriyor

"Saldırı, yayaları yanlış bir şekilde 'sınıflandırmak' için görüntü tanıma bileşenini manipüle ederek yapay zekayı yayalara 'kör' yapmak için kullanılabilir. Raporda, "Otonom arabalar yayalara çarpabileceğinden bu felakete yol açabilir" denildi. "Yeterli bilgi eksikliği ve Uzmanlık Yapay zeka siber güvenlik alanında geliştiriciler ve sistem tasarımcıları arasında, güvenliğin otomotiv endüstrisi'.

Rapora göre, otonom araçlara güç sağlamak için gerekli olan AI sistemleri ve sensörleri saldırı seçeneklerini artırıyor. Yazarları, güvenlik açıklarını ele almak için politika yapıcıların ve işletmelerin bir güvenlik kültürü üçüncü taraf sağlayıcılar dahil olmak üzere otomobil tedarik zinciri boyunca. Rapor, otomobil üreticilerini, bir parçası olarak makine öğrenimi sistemlerinin oluşturulmasını önererek güvenlik risklerini azaltmak için adımlar atmaya çağırıyor. tedarik zinciri otomotiv endüstrisinin.

Rapor, olumsuz makine öğrenimi siber saldırılarına odaklanmaktadır. tespit edildi adamdan. Rapor ayrıca, araçlarda makine öğreniminin kullanımının, kötü amaçla değiştirilmediğinden emin olmak için sistemlerin sürekli olarak gözden geçirilmesini gerektireceğini de belirtiyor.

Raporda sunulan senaryolar arasında trafik planlarına ve karar algoritmalarına saldırı olasılığı ve sahtekarlık otonom bir aracı var olmayan arabaları, insanları veya duvarları "tanımak" için aldatabilecek türden.

Son yıllarda, bazı araştırmalar, fiziksel bozuklukların, biraz çabayla, özerk insanları yanıltabileceğini göstermiştir. araç sistemleri. 2017'de araştırmacılar, otonom bir aracı, reklam panosunu bir hız sınırı işareti olarak yanlış bir şekilde tanıması için kandırmak için bir reklam panosuna sprey boya veya çıkartmalar kullandılar. 2019'da Tencent güvenlik araştırmacıları, Otopilot'unu yapmak için çıkartmalar kullandı Tesla yanlış şeride dönmek için.

Rapor, Ortak Araştırma Merkezi, Avrupa Komisyonu Bilimsel ve Teknolojik Danışmanı tarafından onaylandı. Birkaç hafta önce ENISA özel bir yayınladı rapor Yapay zekanın yarattığı siber güvenliğin zorluklarını ayrıntılı olarak anlatıyor.

Bilgi kaynağı: venturebeat.com

Teo Ehchttps://www.secnews.gr
Sınırlı sayıda olun.
spot_img

CANLI HABERLER