Yüz avuç içi: Kuruluşlar açısından, yapay zeka modellerini eğitmek için dahili verinin kullanılması ihtimali, güvenlik ve uyumluluk konusunda ciddi endişelere yol açıyor. Ancak Slack’in yapay zeka özelliklerini perde arkasında eğitmek için hâlâ mesajları, dosyaları ve verileri höpürdeterek tükettiği görülüyor. Daha da kötüsü, kullanıcılar bilgisi veya rızası olmadan otomatik olarak bu düzenlemeye dahil oldu.
Bu hafta bir kullanıcının X/Twitter’da bunu duyurmasının ardından internette patlayan açıklama, pek çok kişinin Slack’in bunu daha başlangıçta net bir şekilde belirtmemesine sinirlenmesine neden oldu. Duckbill Group yöneticilerinden Corey Quinn, “Üzgünüm Slack, kullanıcı DM’leri, mesajları, dosyaları vb. ile NE yapıyorsun?” diye öfkeli bir gönderiyle ortalığı karıştırdı.
Quinn, Slack’in Gizlilik İlkelerinden şu alıntıya atıfta bulunuyordu: “AI/ML modellerini geliştirmek için sistemlerimiz, Slack’e gönderilen Müşteri Verilerini (örn. mesajlar, içerik ve dosyalar) ve ayrıca diğer bilgileri (kullanım bilgileri dahil) tanımlandığı şekilde analiz eder. Gizlilik Politikamızda ve müşteri sözleşmenizde.”
Slack, aynı gönderiye hızlı bir şekilde yanıt vererek uygulamadaki belirli yapay zeka araçlarını eğitmek için müşteri içeriğini kullandığını doğruladı. Ancak bir sınır çizdi: Veri, kullanıcı bilgilerinden tamamen izole edilmiş olarak faturalandırdıkları premium AI tekliflerine doğru gitmiyor.
Slack’ten merhaba! Açıklığa kavuşturmak gerekirse Slack, kanal ve emoji önerileri ve arama sonuçları gibi şeyler için platform düzeyinde makine öğrenimi modellerine sahiptir. Ve evet, müşteriler verilerini bu (üretken olmayan) makine öğrenimi modellerinin eğitilmesine yardımcı olmaktan hariç tutabilirler. Müşteri verileri şuna aittir:
– Slack (@SlackHQ) 17 Mayıs 2024
Yine de çoğu, Slack’in herkesin özel konuşmalarına ve dosyalarına açık erişime dayanan ana yapay zeka özellikleri karşısında hazırlıksız yakalandı. Birkaç kullanıcı, herhangi bir veri toplama işlemi başlamadan önce insanların seçimden çıkmasına izin vererek belirgin bir uyarı olması gerektiğini savundu.
Opt-out sürecinin kendisi de bir güçlüktür. Bireyler kendi başlarına vazgeçemezler; Yukarıdaki gönderide bulabileceğiniz çok özel bir konu satırını e-postayla göndererek bunu talep etmek için tüm kuruluş için bir yöneticiye ihtiyaçları var.
Bazı ağır vurucular da eleştirileri artırdı. Özel Signal mesajlaşma uygulamasının başkanı Meredith Whittaker, “Verilerinizi ilk etapta toplamıyoruz, bu nedenle ‘AI’ için ‘benim’ yapacak hiçbir şeyimiz yok” diyerek biraz gölge düşürdü. Ah.
Şirketler daha akıllı yazılım geliştirme konusunda birbirlerine rakip olurken, bu tepki yapay zeka ve gizlilik etrafında artan gerilimleri vurguluyor.
Slack’in politikalarındaki tutarsızlıklar da yardımcı olmuyor. Bir bölümde şirketin yapay zeka modelleri geliştirirken temel içeriğe erişemediği belirtiliyor. Slack’in birinci sınıf üretken yapay zeka araçlarını pazarlayan başka bir sayfada şöyle yazıyor: “Endişelenmeden çalışın. Veriniz sizin verinizdir. Bunu Slack yapay zekasını eğitmek için kullanmıyoruz. Her şey Slack’in güvenli altyapısı üzerinde çalışır ve Slack’in kendisiyle aynı uyumluluk standartlarını karşılar.”
Ancak “gizlilik ilkeleri” kapsamındaki kullanıcı veri madenciliği kabulü bu ifadelerle çelişiyor gibi görünüyor.
Threads’de bir Slack mühendisi, gizlilik kurallarının “başlangıçta Slack AI’dan önce yıllardır yaptığımız arama/öneri çalışmaları hakkında yazıldığını” söyleyerek, bir güncellemeye ihtiyaç duyduklarını kabul ederek işleri açıklığa kavuşturmaya çalıştı.
Yine de en büyük sorun, varsayılan olarak katılım yaklaşımıdır. Teknolojide yaygın olmasına rağmen, insanlara bilgilerinin nasıl kullanılacağı konusunda açık seçim hakkı verilmesi şeklindeki gizlilik ilkelerine aykırıdır.