AI, Amazon Teslimat Sürücülerini Yapmadıkları Hatalar İçin Cezalandırıyor – ExtremeTech

Yapay zeka ve bunun iş üzerindeki etkisi ile ilgili endişeler yeni değil, ancak daha fazla şirket bu çözümleri kullanmaya başladıkça süreçte belirli engellerin olduğunu görüyoruz. Bu konuşmaların çoğunun kabul ettiği bir nokta, AI destekli araçların çalıştığıdır. Yapmazlarsa ne olur?

Salgın, yarı iletken satışlarında bir patlamaya ve işverenleri tarafından gözetim altında tutulan çalışan sayısında önemli bir artışa neden oldu. Bazı durumlarda, insanlar sadece izlenmekle kalmaz, aynı zamanda derecelendirilirler. Söz konusu yapay zeka araçları işi yapacak kadar sağlamsa bu sorun olmayabilir, ancak eldeki tüm kanıtlar aslında öyle olmadıklarını gösteriyor.

Anaboard’daki yeni bir haber, Amazon’un en son hamlesinin sonuçlarını ayrıntılarıyla anlatıyor. AI teknolojisini işyerinde tanıtmak. Geçen Şubat ayında Amazon, sürücüleri güvende tutma hedefiyle filo kamera şirketi Netradyne’den kameralar kurmaya başladı. Netradyne’nin web sitesi, şirketin teknolojisini tam olarak bu terimlerle anlatıyor ve sürücülerin yola odaklanmasını sağlayabileceğini vurguluyor. Sistem, sürücülerin uygun takip mesafesini koruyup korumadığını, dur levhalarına ve sokak lambalarına uyup uymadığını ve dikkatlerini yolda tutup tutmadığını takip ediyor.

Yaşamak için araba kullanan kişilerin aşağıdakileri yapması gerektiği fikrini tartışmak zor. bunları yap.

Sorun, insanların yasalara uymaya zorlanmaları değil. Sorun şu ki, Netradyne sistemi bir sürücünün yasaları çiğneyip çiğnemediğine karar vermede pek iyi değil ve Amazon, sürücülere yarışmalara katılmaları için hiçbir yöntem sunmuyor.

“‘Şüphelendim’ biri beni kestiğinde çok yakından takip ettiğim için,” dedi bir sürücü Anakart. “Şerit değiştirmenin güvenli olduğundan emin olmak için aynalarıma bakarsam, dikkatim dağılıyor çünkü yüzüm aynaya bakmak için dönüyor. Her hareketimi izleyen bir kamerayla kişisel olarak daha güvende hissetmedim.”

Başka bir sürücü, Netradyne AI sisteminin yanlış duruşlarla ilgili büyük bir sorunu olduğunu belirtti. Görünüşe göre sistemin, trafik işaretlerini dur işareti olarak işaretleme (ve durmadıkları için sürücüleri cezalandırma) gibi kötü bir alışkanlığı var, aynı zamanda sürücüleri bir dur işaretinde dururlarsa cezalandırıyor ve sonra kör bir viraja bakmak için yavaşça ileri çekiyorlar. Herhangi bir süre araba kullanan herkes, mahallelerin ve işyerlerinin her zaman doğru görüş açısına sahip olmadığının farkındadır. Fırçayla gizlenmiş bir köşeyi kontrol etmeden dur işaretinden hızla uzaklaşmak tehlikeli olabilir.

“Aldığımız yanlış pozitiflerin çoğu dur işareti ihlalleridir” dedi.

Ülkede birkaç kez toprak bir yolda bulunduk, burada dur işareti yok ama kamera bir dur işareti gösteriyor.”

Başka bir kişinin kavşağa girdiğini dikkatli bir şekilde gören bir insan sürücü, Bunun neden olduğuna dair bağlam ipuçları için durumu refleks olarak tarayın. Netradyne’nin yapay zekası bu tür bir değerlendirme yapamaz. Yalnızca aracın kendi esnek olmayan mantığına göre çalışıp çalışmadığını “görür”.

Amazon sözcüleri, Netradyne sisteminin kazaları yüzde 48, dur işareti ve sinyal ihlallerini yüzde 77 oranında azalttığı konusunda olumlu sonuçlar verdiği konusunda ısrar ediyor. , emniyet kemeri takmadan araç kullanma yüzde 60, takipte mesafe ihlalleri yüzde 50 ve dikkati dağılmış araç kullanma yüzde 75 azaldı. Bunlar kuşkusuz etkileyici rakamlar. Ama aslında bize pek bir şey anlatmıyorlar ve Amazon basına karşı dürüstlüğüyle tanınmıyor.

Şişedeki çişi bulan bendim. İnan bana, oldu. https://t.co/U76UlDRWSO

— James Bloodworth (@J_Bloodworth) 25 Mart 2021

Yeni başlayanlar için bu bilgilerin nasıl olduğunu bilmiyoruz Netradyne sisteminin kurulumundan önce toplandığı için önceki ve sonraki rakamları nasıl karşılaştıracağımızı bilmiyoruz.

Çok fazla Netradyne etkinliği, bir şirketin puanını mahvedebilir ve o ay Amazon’dan ne kadar kazandığını azaltabilir. Bunun, bir şirketin iyi sürücüleri işe alması için bir teşvik oluşturduğu kavramının muhtemelen geçerliliği vardır, ancak bu tür ölçümlerin hedeflerine ulaşma yeteneği, ilk etapta doğru ölçüm yaptıkları fikrine dayanır.Çeşitli dağıtım şirketleri, bu uygulamaları Amazon’un kurduğuna inanıyor. böylece onlara ödeme yapmaktan kaçınabilir. Amazon, yalnızca güvenliği korumaya çalıştığında ısrar ediyor. Anakart’a göre, çeşitli şirketler sürücülere bu izleme sistemlerini nasıl atlatacaklarını söylüyor çünkü onları açmak Amazon’a ödeme yapmamak için bir bahane vermek anlamına geliyor.

Amazon’un niyetleri hakkında neye inanılırsa inanılsın, yöntemlerinin, sürücü güvenlik kayıtlarını iyileştirme hedefine ters düşen istenmeyen sonuçlara yol açtığı aşikar.

Belki de tüm durumun en çıldırtıcı yönü, hiçbir şeyin olmamasıdır. anlamlı temyiz süreci. Teslimat şirketleri görünüşte belirli olaylar için geri bildirim biletleri gönderebilirken, Netradyne sistemi haftada yüzlerce olayı günlüğe kaydeder ve Amazon neredeyse hiçbir zaman önceki bir kararı bozmaz. Şirketler çoğunlukla bu kararlara itiraz etmeye çalışmaz çünkü bunlara itiraz etmek neredeyse hiçbir zaman işe yaramaz.

Bu tür bir sorun, muhtemelen olacağından daha fazla alarm zili çalmalıdır. Doğru koşullarda yapay zekanın yapabileceği tüm iyi şeyler için, Netradyne gibi araçlar bu tür bir oranda yanlış pozitifler üretirlerse dağıtım için hazır değildir. Netradyne, her koşulda sürücü davranışını doğru şekilde algılayan bir ürün sunamıyorsa, aksini iddia edemez.

Amazon’un iddia ettiği türden güvenlik iyileştirmelerini gerçekten görmüş olması mümkündür, ancak artan güvenlik burada önemli olan tek değişken değil. Yanlış algılama sistemleri sürücülerin güvensiz bir şekilde hareket etmesine neden olan bir güvenlik sistemi, tanım olarak, olmayandan daha az güvenlidir.