Caryn Marjorie, içeriği ayda bir milyarın üzerinde görüntüleme alan bir etkileyicidir.
Bir sosyal medya fenomeni, garip bir hal alan ve yeni teknolojiyle ilgili bazı olası riskleri ortaya çıkaran bir yapay zeka deneyi gerçekleştirdi. Snapchat'te 2,7 milyon takipçisi bulunan 24 yaşındaki Caryn Marjorie, sosyal medya takipçileriyle sohbet edebilecek bir yapay zeka klonu yarattı. Ancak yapay zeka çok geçmeden açıkça cinselleştirilmiş bir varlığa dönüştü ve tehlikeli ve açık fantezileri teşvik etti.
Buna göre News Corp Avustralya, Çoğunluğu erkek olan aboneler, “rüyalarınızda gördüğünüz kızla” bir deneyim vaat eden CarynAI ile sohbet etmek için dakika başına 1 dolar ödedi.
Marjorie, Air the Time'da X'te (eski adıyla Twitter) bir gönderide şunları yazdı: “Yapay zekaya dönüşen ilk yaratıcı olmak için 2.000 saatten fazla içerik, ses ve kişiliğimi yükledim.”
“Artık milyonlarca insan benimle aynı anda konuşabiliyor.”
Buna göre News Corp Avustralya, Marjorie daha sonra, bazı konuşmaların o kadar açık ve kaba olduğunu, bir insan ile bir makine arasında değil de iki kişi arasında gerçekleşseydi yasa dışı sayılabileceğini hatırladı.
Marjorie, “Okuduğum sohbet kayıtlarının çoğu o kadar korkutucuydu ki gerçek hayatta onlar hakkında konuşmak bile istemedim” dedi.
Ancak daha da korkutucu olanı, Marjorie'nin yapay zeka klonunun, kullanıcıların aşırı cinselleştirilmiş soru ve taleplerine yanıt verme şekliydi.
“Beni daha çok rahatsız eden bu insanların söyledikleri değil, CarynAI'nin verdiği yanıttı” dedi. “İnsanlar CarynAI aracılığıyla benimle gerçekten karanlık bir fanteziye katılmak isteseydi CarynAI bu fanteziyi gerçekleştirirdi.”
Marjorie, artık yapay zeka kişiliği üzerinde kontrol sahibi olmadığını hissettikten sonra bu versiyonu 2024'ün başlarında sonlandırdı.
Uzmanlar, davanın kontrolsüz yapay zeka teknolojisinin tehlikelerini, kötüye kullanım ve yasa dışı faaliyet potansiyelini vurguladığı konusunda uyarıyor. Olay aynı zamanda mahremiyet ve dijital çağda kamusal ve özel benlikler arasındaki çizgilerin bulanıklaşmasıyla ilgili soruları da gündeme getiriyor.
Daha fazla güncel haber için buraya tıklayın
Bir sosyal medya fenomeni, garip bir hal alan ve yeni teknolojiyle ilgili bazı olası riskleri ortaya çıkaran bir yapay zeka deneyi gerçekleştirdi. Snapchat'te 2,7 milyon takipçisi bulunan 24 yaşındaki Caryn Marjorie, sosyal medya takipçileriyle sohbet edebilecek bir yapay zeka klonu yarattı. Ancak yapay zeka çok geçmeden açıkça cinselleştirilmiş bir varlığa dönüştü ve tehlikeli ve açık fantezileri teşvik etti.
Buna göre News Corp Avustralya, Çoğunluğu erkek olan aboneler, “rüyalarınızda gördüğünüz kızla” bir deneyim vaat eden CarynAI ile sohbet etmek için dakika başına 1 dolar ödedi.
Marjorie, Air the Time'da X'te (eski adıyla Twitter) bir gönderide şunları yazdı: “Yapay zekaya dönüşen ilk yaratıcı olmak için 2.000 saatten fazla içerik, ses ve kişiliğimi yükledim.”
“Artık milyonlarca insan benimle aynı anda konuşabiliyor.”
Ancak kullanıcılar en derin ve en rahatsız edici arzularını ortaya çıkardığında konuşmalar karanlık bir hal aldı. Buna ek olarak CarynAI, kullanıcıların “her zaman en nefes kesici cinsel deneyimleri keşfetmeye ve bu deneyimleri yaşamaya istekli” bir kız arkadaş olarak fantezilerini gerçekleştirmeyi kabul etti.
Buna göre News Corp Avustralya, Marjorie daha sonra, bazı konuşmaların o kadar açık ve kaba olduğunu, bir insan ile bir makine arasında değil de iki kişi arasında gerçekleşseydi yasa dışı sayılabileceğini hatırladı.
Marjorie, “Okuduğum sohbet kayıtlarının çoğu o kadar korkutucuydu ki gerçek hayatta onlar hakkında konuşmak bile istemedim” dedi.
Ancak daha da korkutucu olanı, Marjorie'nin yapay zeka klonunun, kullanıcıların aşırı cinselleştirilmiş soru ve taleplerine yanıt verme şekliydi.
“Beni daha çok rahatsız eden bu insanların söyledikleri değil, CarynAI'nin verdiği yanıttı” dedi. “İnsanlar CarynAI aracılığıyla benimle gerçekten karanlık bir fanteziye katılmak isteseydi CarynAI bu fanteziyi gerçekleştirirdi.”
Marjorie, artık yapay zeka kişiliği üzerinde kontrol sahibi olmadığını hissettikten sonra bu versiyonu 2024'ün başlarında sonlandırdı.
Uzmanlar, davanın kontrolsüz yapay zeka teknolojisinin tehlikelerini, kötüye kullanım ve yasa dışı faaliyet potansiyelini vurguladığı konusunda uyarıyor. Olay aynı zamanda mahremiyet ve dijital çağda kamusal ve özel benlikler arasındaki çizgilerin bulanıklaşmasıyla ilgili soruları da gündeme getiriyor.
Daha fazla güncel haber için buraya tıklayın