OpenAis Chatgpt, yayınlanmasından bu yana, özellikle içerik ve görüntü konumu açısından veri koruma sorunlarını ele almıştır. Yapay zekanın son derece gerçekçi ve hassas içerik yaratma yeteneği, kolayca sahte belgeler oluşturabilmeleri için önemli ölçüde gelişmiştir. Siber suçlular geleneksel olarak sahte devlet tabanlı kimlik belgeleri oluşturmada zorluklar yaşadı, ancak GPT-4 bunu büyük ölçüde basitleştirdi. Bazı hevesli sosyal medya kullanıcıları yakın zamanda etkili ve kesin istekleri belirleyerek kolayca sahte belgeler oluşturabileceklerini buldular. Bu kullanıcılardan bazıları, bu tür sahte belgelerin oluşturulan görüntülerini mikroblog web sitesinde yayınladı.
Bir kullanıcı Yaswanth Sai Palaghat şöyle yazdı: “ChatGPT, ciddi bir güvenlik riskini temsil eden sahte Aadhaar ve Pan kartları üretiyor. Bu nedenle AI belirli bir dereceye kadar düzenlenmelidir.”
Başka bir kullanıcı olan Piku şöyle yazdı: “AI'dan tek bir isim, bir DOB ve bir adres içeren bir Aadhaar kartı oluşturmasını istedim … ve neredeyse mükemmel bir kopya yarattı. Şimdi birisi bir Aadhar ve Pan-Cards'ın sahte bir kopyasını oluşturabilir.
Her ne kadar AI gerçek kişisel detaylara sahip herhangi bir belge oluşturmasa da, ünlü kişilikler için sahte kimlikler oluşturduğu ve bu teknolojilerin potansiyel tehdidini daha da vurguladığı bulunmuştur.
Bir kullanıcı Yaswanth Sai Palaghat şöyle yazdı: “ChatGPT, ciddi bir güvenlik riskini temsil eden sahte Aadhaar ve Pan kartları üretiyor. Bu nedenle AI belirli bir dereceye kadar düzenlenmelidir.”
Başka bir kullanıcı olan Piku şöyle yazdı: “AI'dan tek bir isim, bir DOB ve bir adres içeren bir Aadhaar kartı oluşturmasını istedim … ve neredeyse mükemmel bir kopya yarattı. Şimdi birisi bir Aadhar ve Pan-Cards'ın sahte bir kopyasını oluşturabilir.
Her ne kadar AI gerçek kişisel detaylara sahip herhangi bir belge oluşturmasa da, ünlü kişilikler için sahte kimlikler oluşturduğu ve bu teknolojilerin potansiyel tehdidini daha da vurguladığı bulunmuştur.
AI modellerinin bu artan yeteneği, önemli bir risk taşır ve siber suç ve sahtekarlık da dahil olmak üzere kötü amaçlı faaliyetlere katılma olasılığını artırır.