Apple, iPhone verilerini kullanarak ruh hali tespiti üzerinde çalışıyor. Eleştirmenler teknolojinin kusurlu olduğunu söylüyor

Sharing is caring!

Bir rapor, Apple’ın iPhone kullanımı yoluyla ruh halini nasıl belirleyeceğini araştırdığını, ancak duygu AI’sının sahte bilim olduğu konusunda bir üne sahip olduğunu buldu.

UCLA ve Apple arasında yapılan güncel bir çalışma hakkında yeni bilgiler, iPhone üreticisinin depresyonu tespit etmek için yüz tanıma, konuşma kalıpları ve bir dizi başka pasif davranış takibi kullandığını gösteriyor. Raporda, bir Rolfe Winkler Wall Street Journal , bazı bilim adamları hatalı varsayımlara Susları söylemek bilgisayar denilen duygu AI, bir alana şirketin baskını hakkında kaygı uyandırmaktadır.

Apple’ın depresyon çalışması ilk olarak Ağustos 2020’de duyuruldu . Çalışmayla ilgili önceki bilgiler, şirketin ruh sağlığını anlamak için kalp atış hızı, uyku ve bir kişinin telefonuyla nasıl etkileşime girdiği gibi yalnızca belirli sağlık veri noktalarını kullandığını gösteriyordu. Ancak The Wall Street Journal raporu, araştırmacıların stres, depresyon ve kaygıyı tespit etmek amacıyla insanların yaşamsal belirtilerini, hareketlerini, konuşmasını, uykusunu, yazma alışkanlıklarını, hatta rapora göre yazım hatalarının sıklığını izleyeceklerini söylüyor. Veriler hem Apple Watch’tan hem de iPhone’un kamera ve mikrofonunu kullanarak gelecek. Apple’ın cihazları aracılığıyla elde edilen veriler, akıl sağlığı anketleri ve kortizol düzeyi verileriyle (görünüşe göre katılımcıların saç köklerinden elde edilen) karşılaştırılacak.

The Journal’a göre Apple, iPhone ve Watch verilerine dayalı olarak çocuklarda bilişsel gerileme ve otizmi tespit etmeyi amaçlayan çalışmalara da katılıyor . Bu çalışmalar, Apple’ın bireysel sağlığa olan mevcut ilgisinin bir uzantısıdır. Şirket, egzersiz, uyku, işitme, fiziksel stabilite, menstrüasyon, diyet ve bir kişinin günlük sağlığının diğer belirteçlerini izlemeye büyük yatırım yaptı. Hatta tıbbi verileri entegre eder ve doktorunuza sağlık raporu gönderebilir .

Depresyon çalışması, sağlık verilerini bir adım öteye taşıyor – duygusal durumunuz hakkında bir varsayımda bulunmaya doğru. Duygu AI veya duygusal bilgi işlem olarak adlandırılan şeyi kullanarak nasıl hissettiğinizi pasif olarak ölçmeyi iddia eden artan sayıda uygulamanın bir parçasıdır . Alan, bir kişinin duygularını anlamak için, genellikle ticari amaçlarla, yüz ifadeleri de dahil olmak üzere çeşitli veri noktalarını kullanmayı amaçlar. Grand View Research’e göre, duygusal bilgi işlem 2019’da 20 milyar dolarlık bir pazardı .

Duygu yapay zekası, Dunkin’ Donuts, Unilever, Carnival Cruise Lines ve IBM gibi büyük şirketlerde adayın kişiliğini anlamak için işe alım sürecinin bir parçası olarak kullanılıyor . Bu tür bir teknoloji aynı zamanda otomobillerde uykulu sürücüleri tespit etmek için , hapishane popülasyonlarında stresi tespit etmek için ve pandemi sırasında dijital sınıflarda çevrimiçi öğrencilerin dersleriyle mücadele edip etmediklerini anlamak için hem deneysel hem de ticari olarak kullanılıyor .

Ancak teknoloji, yalnızca çok büyük miktarda hassas veri toplamak için değil, aynı zamanda çok iyi olmadığı için de eleştirilerle karşı karşıya kaldı. Electronic Frontier Foundation’daki yasama aktivisti Hayley Tsukayama, “Genel olarak, duygu tespiti veya zihinsel sağlık [tespiti] yapan gördüğümüz ürünlerin süper doğru olduğu kanıtlanmadı” diyor.

Bilim adamları, duygusal yapay zekanın kusurlu bir fikre dayandığını söyleyerek sorunları hakkında konuştular. Güney Kaliforniya Üniversitesi Annenberg İletişim ve Gazetecilik Okulu’nda araştırmacı ve Atlas of AI: Power, Politics, and the Planetary Costs of Yapay Zeka kitabının yazarı Kate Crawford, buna “frenolojik dürtü: içsel durumlar ve bir kişi hakkında ortaya çıkarmayı seçtiklerinden daha fazlasını çıkarmak amacıyla dış görünüşlerden gelen yetenekler. ”

Psychological Science in the Public Interest dergisinde yayınlanan 2019 tarihli bir makalede , bir grup araştırmacı duygu AI ile ilgili zorlukları ortaya koydu “İnsanların iç durumlarını, bağlamın çeşitli yönlerini dikkate almadan yalnızca yüz hareketlerinin analizinden basitçe ‘okuma’ çabaları, hesaplama algoritmaları ne kadar karmaşık olursa olsun, en iyi ihtimalle eksik ve en kötü ihtimalle tamamen geçerlilikten yoksundur” diye yazıyorlar. Makalede, araştırmacılar, insanların çevresel bir bağlamda duygularını iletmek ve gizlemek için yüzlerini gerçekte nasıl hareket ettirdiklerine ve insanların başkalarının yüz ifadelerine dayanarak duyguları nasıl çıkarsadığına dair daha derin bir çalışma çağrısında bulundular.

Bu teknolojinin ne kadar etkili olduğu, özellikle Apple gibi daha fazla tüketici teknolojisi şirketi buna yatırım yaptığı için muazzam sonuçlar doğuruyor. Geçen Ağustos ayında Amazon , sesinizin duygusal tonunu algılayan bir özelliğe sahip bir sağlık giyilebilirliğini piyasaya sürdü . Prestijli Nature dergisi için bir makalede Crawford  duygusal yapay zeka uygulamalarının arkasındaki bilimin titiz ve şeffaf olmasını sağlamak için sağlam mevzuat çağrısında bulundu. İçinde, onlarca yıldır kullanılan ve sonunda güvenilmez olduğu tespit edilen yalan makinesi veya yalan dedektörü testlerinden kaynaklanan zararlardan bahsediyor.

Tsukayama, şirketlerin teknolojilerinin neyi yapıp neyi yapamayacağı konusunda açık olmalarının da önemli olduğunu söylüyor. Depresyonun tespit edilmesi durumunda, bir şirketin, kullanıcılara teknolojinin değerlendirmesinin bir teşhis teşkil etmediğine dair güvence vermenin ötesine geçmesi gerekebilir. Şirketlerin, meslekten olmayan kişinin uygulamanın kapasitesini nasıl yorumlayabileceğini hesaba katması gerektiğini söylüyor. “Doktorlarını atlatabileceklerini mi sanıyorlar? Kendi tedavilerini aramanın yeterince güçlü olduğunu düşünüyorlar mı? Tüketici zararına girdiğiniz yer burasıdır, ”diyor Tsukayama.

New Hampshire Üniversitesi Hukuk Fakültesi’nde teknoloji avukatı ve yardımcı doçent olan Tiffany C. Li, Apple’ın araştırmasının tıbbi açıdan faydalı olma potansiyeline sahip olduğuna inandığını söylüyor. “Önemli olan, yerleşik korumalara sahip olmamız” diyor. Genel olarak duygusal yapay zeka ile ilgili endişesi, çok büyük miktarda kişisel veri kullanmasıdır. İnsanların biyometrik verilerinin korunmasını içeren federal gizlilik mevzuatı olmadan, tüketicilerin verilerinin nasıl kullanıldığı, işlendiği ve saklandığı konusunda fazla bir yetkisi yoktur.

Apple, şeffaflık ve katılımcı onayı konusunda katı kuralları olan akademik bir çalışma bağlamında depresyon tespitini test ediyor. Ve Dergi raporunda işaret UCLA-Elma çalışmada tüketici bakan app neden asla. Çalışma, 2020’de başlayan üç yıllık bir zaman çizelgesi üzerindedir. Bu sonraki aşamada, 3.000 kişiyi kapsayacak şekilde genişleyecektir. Yine de Apple’ın yapay zeka üzerine yaptığı araştırma, alanın büyüdüğünün bir başka göstergesi. Eleştirmenler, teknoloji daha fazla insana ulaştığında düzenlemeye ihtiyaç duyulacağına inanıyor.

Tsukayama, “Böyle bir algoritmayı bir tür kritik karar vermek için kullanacaksanız, şeffaf olduğundan, denetleyebildiğinizden, insanların bu kararlara kolayca itiraz edebileceğinden emin olmak istersiniz” diyor. “Etrafında temel bir sorumluluk olduğundan emin olmak istiyorsunuz.”

Facebook
Twitter
LinkedIn
Pinterest
Tumblr
WhatsApp

Benzer Haberler

Son Haberler