Intihar ve Facebook AI
İçindekiler:
Bir kişi intihar ederek öldüğünde, hayatında olan kişiler bunu önlemek için neler yapabileceklerini merak ediyorlar.
Sosyal medya kullanıcıları, kişinin gönderdiği rahatsızlığı görmekten pişman olabilir, ancak bu konuda herhangi bir şey yapmamaktadır.
AdvertisementAdvertisementYardım etmeye çalışan bir girişimde, Facebook, birinin sosyal medya web sitesinde intihar veya yaralanma ile ilgili düşüncelerini ne zaman dile getirdiğini belirlemek için yapay zeka (AI) araçlarını genişlettiğini açıkladı.
Facebook, bu aydan önce yalnızca ABD'deki bazı kullanıcılardaki araçları kullandı. Artık, gizlilik ve internet kanunları daha sıkı olan Avrupa Birliğine üye olanlar hariç, sitenin 2 milyar kullanıcısının çoğunun kullanımına sunulmuştur.
Facebook'un CEO'su Mark Zuckerberg, AI'nın bu kullanımının olumlu bir gelişme olduğunu söylüyor.
AdvertisementGeçtiğimiz günlerde yaptığı Facebook zaman çizelgesinde "Son aylarda bu AI araçları, ilk müdahale görevlilerine 100'den fazla hızla bağlanmamıza yardımcı oldu. “
Araçlar bunu nasıl yapar tam olarak?
AdvertisementAdvertisementFacebook ayrıntılı bilgi vermiyor, ancak aracın yayınlar veya videolarla dolaşarak ve bir kişiyi işaret edebilecek kelimeleri, videoları ve resimleri çektiğinde onları işaretleyerek çalıştığını düşünüyoruz intihar riski altındadır.
Facebook, çocuk pornografisi ve diğer sakıncalı içeriği bulunan yayınları taramak ve kaldırmak için zaten AI'yı benzer bir şekilde kullanıyor.
Bir Facebook temsilcisi, Healthline'a, intihar önleme araçlarının içeriği daha hızlı algılamasına yardımcı olduğunu söyledi. AI aynı zamanda raporların önceliğini belirtir; bu durum hangi vakaların daha seri olduğunu belirtir.
Sonra, Facebook'un topluluk operasyonları ekibi eğitimli üyeleri içeriği inceler ve kullanıcıya sunacak yardım türünü belirler.
Bu üyeler dünya çapında 24 saat çalışmakta ve AI araçlarından ve ilgili Facebook kullanıcılarından gelen iki raporu da incelemektedir.
AdvertisementAdvertisementAI aracının intihar eğilimlerini algılamasının bir yolu, kullanıcılara "Tamam mısınız? " "Yardım edebilir miyim? "Ve" Yardıma mı ihtiyacınız var? "
Facebook'un topluluk operasyon ekibi, şiddet içeren veya rahatsız edici olarak bildirilen içeriği incelemekle görevlidir.
Mayıs ayında Facebook, o sırada 4, 500 çalışanı bulunan operasyon ekibine 3 bin daha fazla işçi ekleyeceğini açıkladı.
AdvertisementFacebook sözcüsüne göre, teknoloji, Facebook'da yazılanların içerdiği içeriği ve videoları, bir arkadaşından veya ailenin üyelerinden daha hızlı bir şekilde rapor edebileceklerini tespit etmeye yardımcı oluyor.
Bunlar tespit edildiğinde, Facebook kullanıcısı kriz destek kuruluşlarından Messenger aracılığıyla Facebook Live chat desteği ile iletişime geçmekte ve gerçek zamanlı olarak sohbet edebilmektedir.
AdvertisementAdvertisementTahta üzerinde intihar farkındalığı savunucuları
intihar önleme için AI yaratmada Facebook, Save dahil zihinsel sağlık kuruluşlarıyla birlikte çalışır. org, Ulusal İntihar Önleme Lifeline "1-800-273-TALK (8255)" ve Forefront İntihar Önleme.
Daniel J. Reidenberg, PsyD, Save'in icra müdürü. org, Facebook'un daha önce yapılmamış yollarla intihar önleme çabalarını ilerletmeye yardımcı olmak için attığı adımlardan dolayı heyecan duyduğunu belirtti.
"Son 50 veya 60 yılda - ilaç tedavisindeki ilerlemelerden mi, yoksa intihar ve zihinsel sağlık tedavisinden bahsediyor musunuz -, bu nedenle, indirimler görmedik veya intihar damlası görmedik, bu yüzden fikir Belki teknolojinin yardımcı olabileceği, hayat kurtarmak için şu anda sahip olduğumuz en iyi fırsattır "dedi. Reidenberg, Healthline'a verdiği demeçte;
AdvertisingAI araçlarının tam olarak tasarlanamayabileceğini ve risk altında olan insanların yanlış pozitiflik gösterebileceğini belirttiğini belirtti; bunun intihar önleme için anlamak için zaman alabileceğinin ileri bir müdahalesi olduğunu söylüyor etkinliği.
"AI gelmeden önce, bir arkadaşının intihara neden olabileceğini düşünen şeyleri Facebook'a bildiren insanlardan yanlış pozitif vardı. AI, bu yanlış pozitifliklerin bir kısmını ortadan kaldırmaya yardımcı olmak için süreci hızlandırıyor ve gerçekten risk altında olanları yakalamaya devam ediyor "dedi Reidenberg.
Advertising Advertisementİnsanlara sosyal medyada intihar eğilimi işaretleri gösterdiğini ve bunun iyi veya kötü bir şey olmadığını da ekliyor.
"Sosyal medya, insanların bugün yaşamlarını sürdürdüğü yerdir. Yıllar önce parkta ya da oturup durdular ya da birbirlerine notlar yazdılar, belki telefonda paylaştılar. Giderek daha fazla insan hayatlarını sosyal medyada yaşarken, hem mutlu anları hem de karşılaştıkları zorlukları paylaşıyorlar "dedi.
Değişiklik, insanların bir seferde yüzlerce ve yüzlerce kişiye ulaşmasını sağladı.
Reidenberg, sosyal medyada kendinize zarar verebilecek veya bunlara maruz kalabilecek birisini fark ederseniz, yakın arkadaşlarsanız onlara mesaj, metin ya da telefonla ulaşın diyor. Facebook bile bir konuşmaya başlamayı kolaylaştırmak için önceden doldurulmuş metinler sunmaktadır.
Reidenberg, bu yaklaşımdan memnun değilseniz, Facebook'ta raporlama işlevini kullanmanızı önerir.
"Yapılması kolay ve hızlı bir şey. Teknoloji bunu tek başına yapamaz. İnsanlara dahil olmamız lazım. Olabilecek en kötü şey bir şey yapmamanız "dedi.
Gizlilikle ilgili sorunlar ne olacak?
İyi niyetin yanı sıra gizliliğin işgali düşünülmemesi zor.
Mudd Law'daki bir gizlilik avukatı ve müdürü Charles Lee Mudd Jr., Facebook'un vaktinden önce açıklanması halinde, Facebook için anahtar kelimeleri taramanın bir gizlilik ihlali olarak düşünülmemesi gerektiğini söylüyor.
"Facebook açıkladığı sürece içeriği inceliyorsa, gerçek bir gizlilik kaygısı görmüyorum," diye ekledi Mudd Healthline'a. "İnternette herhangi bir yerde yayınlanan herhangi bir şeyin - özel ya da değil - e-posta yoluyla ya da sosyal medyada, istenmeyen alıcılara yol açabileceğini anlamalı.En azından Facebook, maillerimizi okuyan ya da en azından anahtar kelimeleri tarayan robotlar olduğunu bize bildirirse, bunu yapmamız gerekirse davranışımızı ayarlayabiliriz. "
Yasal olarak Facebook açık olsa da, etik olarak hareket edip etmemek tartışma içindir.
Powr of You'un kurucu ortağı Keshav Malani, kişilerin sayısal varlıklarıyla para kazanmalarına yardımcı olan bir şirket, Facebook'un niyetleri ne olursa olsun, her insanın kişisel verilerin nasıl kullanılacağına karar vermekte özgür olacağını belirtiyor.
"Ya da Facebook gibi platformlarda paylaştığımız kişisel bilgilerin" iyi "ve" kötü "kullanımı olarak değerlendirilmesi kaygan bir eğim. Ayrıca, niyetler yeterli değil, çünkü verilerdeki önyargılar, yalnızca temel tarihsel korelasyon analizinden kaynaklanan geçersiz veya zararlı iddialara neden olabilir. "Dedi.
Yazar, AI'nın yalnızca girdi olarak alınan verilerin kadar iyi olduğunu ekliyor.
"Facebook gibi bireysel platformlar, sizi iyi hissetmenizi sağlayacak kadar çok şey bildiklerini varsaymaya çalışmak saf olmaz. Facebook ya da diğer herhangi bir medya organı, hayatımızın yalnızca küçük bir bölümünü kapsıyor ve genelde paylaşmayı seçtiğimiz bir resim çiziyor, böylesine sınırlı ve muhtemelen önyargılı veri kaynağından çıkarımların son derece dikkatle yapılması gerekiyor " dedi.
Yine de, Reidenberg, insanların AI kullanan Facebook'tan korkmamaları gerektiğini söylüyor.
"Bu, Facebook insanları takip etmiyor veya insanların işine girmiyor" dedi. "İnsanların hayatlarını kurtarmak için teknoloji ve insanlar kullanıyor" dedi. "Bana güvenin, ezeli biriniz varsa, acil serviste ya da çevrimiçi bir yerde olsanız da, onlar için her şeyin yapılmasını istersiniz. "Aslında, daha fazla teknolojinin kriz içindeki insanlara müdahale edebileceğini umuyor.
"Birisi bir krizde olduğunda seçenekler ve alternatifler onlardan uzaklaşıyor. O anda neler olup bittiğine odaklanıyorlar ve onları alabilmek için gerekli araçlara sahip değiller "dedi.
Her zaman teknoloji insanlara daha fazla seçenek sunabilir, Reidenberg krizden kaçınmaz. Teknolojinin, örneğin, depresyona maruz kalma riski altında olmadan önce risk altındaki kimseleri belirlemek için daha fazla yol yaratmasını istiyor.
Örneğin, daha depresyona girdikçe daha az etkileşime girdiğimiz, daha fazla izolasyon yaptığımızı, daha fazla enerji çektiğimizi, daha az enerji harcadığımızı ve konuşmayı ve farklı bir şekilde yazmayı ve daha sonra bu değişiklikleri fark etmeye yönelik programlama teknolojilerinin yararlı olabileceğini biliyoruz.
"Facebook'ta normal bir poster olduğunuzu varsayalım, ancak o zaman hayatınızdan daha çok rahatsız oluyorsunuz ve etkinlik yavaş yavaş düşüyor. Ardından Instagram'da çok üzücü veya kasvetli bir gün dışında bir resim göndermeye başlıyorsunuz. Reidenberg, çevrimiçi davranışınıza dayalı olarak size hayatta neler olup bittiğini öğrenmek için bir teknoloji alabilirsek size kaynaklar veya destek gibi şeyler vermeye başlayabiliriz ve belki de bunu çevirebiliriz "dedi.
Zuckerberg, gelecekteki AI'yı başka yollardan kullanmayı planladığını da belirtmek üzere görevinde benzer bir düşünceyi paylaştı.
"Bunu daha da geliştirmek için yapabileceğimiz çok şey var" diye yazdı. "Gelecekte AI, dilin ince nüanslarından daha fazlasını anlayabilecek ve intihardan başka zorbalık ve nefret türlerini hızla bulma da dahil olmak üzere farklı konuları tespit edebilecektir. “
