Makine öğrenimi sistemleri, ahlaki ve sosyal değerlerimize ve onları yöneten kurallara meydan okuyarak, günlük yaşamlarımızda giderek daha fazla yol alıyor. Bu günlerde sanal asistanlar evin mahremiyetini tehdit ediyor; haber danışmanları dünyayı anlama şeklimizi şekillendiriyor; risk tahmin sistemleri , sosyal hizmet uzmanlarına hangi çocukların istismardan korunacağı konusunda ipucu verir; veriye dayalı işe alma araçları aynı zamanda bir işe girme şansınızı da sıralar. Ancak, makine öğreniminin etiği birçokları için belirsizliğini koruyor.

Belçika'nın UCLouvain kentindeki Etik ve Bilgi ve İletişim Teknolojileri kursuna katılan genç mühendisler için konuyla ilgili makaleler ararken, özellikle Project Aralık adlı bir web sitesini kullanan 33 yaşındaki Joshua Barbeau'nun davası beni çok etkiledi . ölen nişanlısı Jessica ile konuşmayı simüle edecek bir sohbet robotu - bir sohbet robotu - oluşturun .

Ölü insanları taklit eden konuşma robotları
Deadbot olarak bilinen bu tür bir chatbot, Barbeau'nun yapay bir "Jessica" ile kısa mesaj alışverişi yapmasına izin verdi. Vakanın etik açıdan tartışmalı doğasına rağmen, salt olgusal yönün ötesine geçen ve vakayı açık bir normatif mercekle analiz eden materyallere nadiren rastladım: Bir ölü robot geliştirmek neden doğru veya yanlış, etik olarak arzu edilir veya kınanabilir?

Bu sorularla boğuşmadan önce, bazı şeyleri bağlama oturtalım: Project Aralık, oyun geliştiricisi Jason Rohrer tarafından, para ödedikleri takdirde, insanların etkileşimde bulunmak istedikleri kişilikle sohbet robotlarını özelleştirmelerini sağlamak için oluşturuldu. Proje, yapay zeka araştırma şirketi OpenAI tarafından metin üreten bir dil modeli olan GPT-3'ün bir API'si üzerine inşa edildi. Barbeau'nun davası , şirketin yönergeleri GPT-3'ün cinsel, aşk, kendine zarar verme veya zorbalık amacıyla kullanılmasını açıkça yasakladığı için Rohrer ve OpenAI arasında bir sürtüşme açtı .

OpenAI'nin konumunu aşırı ahlaki olarak nitelendiren ve Barbeau gibi insanların “rıza gösteren yetişkinler” olduğunu savunan Rohrer, Aralık Projesi'nin GPT-3 versiyonunu kapattı.

Hepimizin bir makine öğrenimi ölü robotu geliştirmenin doğru mu yanlış mı olduğu konusunda sezgileri olsa da, sonuçlarını açıklamak kolay bir iş yapmaz. Bu nedenle, vakanın ortaya çıkardığı etik soruları adım adım ele almak önemlidir.