Xiaomi’nin elektrikli araçlarında kullanılan yapay zekâ destekli uyku algılama sisteminde ilginç bir sorun gündeme geldi.
Çinli kullanıcılar, sistemin göz yapısını yanlış yorumlaması nedeniyle araç tarafından sık sık “uykulu sürüş” uyarısı aldıklarını bildiriyor. Oysa bu uyarılar, sürücüler tamamen uyanıkken dahi gerçekleşiyor.
En dikkat çekici olaylardan biri, bir Xiaomi EV (elektrikli araç) sürücüsünün kısa mesafeli bir yolculuk sırasında tam 20’den fazla uyarı almasıyla sosyal medyada gündeme geldi. Sürücü, bu durumu belgeleyen bir video paylaşarak, sistemin hatalı çalıştığını ortaya koydu.
Uyku tespit sistemi; sürücünün göz hareketleri, baş pozisyonu, yüz ifadeleri ve direksiyon tutuşundaki değişiklikleri analiz eden bir kamera sistemiyle çalışıyor. Ancak sistem, özellikle çekik göz yapısına sahip bireylerde uyku hali algılayarak yanlış sinyaller veriyor.
Bu durum, yapay zekâ tabanlı sistemlerde kültürel ve biyolojik çeşitliliğin yeterince hesaba katılmadığını bir kez daha gösterdi.
Xiaomi ise gelen tepkiler sonrası açıklama yaparak, sürücülerin bu özelliği manuel olarak devre dışı bırakabileceğini duyurdu. Yazılımın gelecekte güncellenmesi bekleniyor.
