Yapay zeka alanında öncü olan OpenAI’nin tanınmış sohbet robotu ChatGPT’nin en son sürümleri, ürettikleri metinlere sıfırdan bir filigran yerleştirdiği belirlendi.
Rumi Technologies araştırmacıları, bu filigranların özellikle ChatGPT’ye makaleler gibi daha uzun metinler oluşturması talep edildiğinde zu ortaya çıktığını ortaya koydu.
Filigranlama işlemi, normal boşluklarla benzerlik gösteren ama farklı ASCII kodlarına sahip olan Dar Kesintisiz Boşluk (NNBSP) gibi belirli Unicode karakterlerinin kullanılmasıyla gerçekleşiyor. Bu karakterler, metnin yapay zeka tarafından üretildiğine dair gizli bir iz bırakmakta.
GİZLİ KARAKTERLER NASIL TESPİT EDİLİR
Araştırma ekibi, daha eski ChatGPT modellerinde, örneğin GPT-4o’da bu tür filigranların bulunmadığını belirtmektedir.
Kullanıcılar, gizli karakterleri tespit etmek amacıyla çeşitli çevrimiçi araçlar veya Sublime Text gibi gelişmiş metin düzenleyicilerini kullanabilecektir.
Bu özel karakterlerin metin içerisindeki dağılımının rastgele olmadığı, sistematik bir desen izlediği dikkate değer bir bulgu olmaktadır.
Bu durum, filigranlama özelliğinin OpenAI geliştiricileri tarafından bilinçli bir şekilde uygulandığına dair güçlü bir işaret sunuyor.
Bu gelişme, OpenAI’nin yapay zeka ile üretilen görsellere filigran ekleme sürecini test etmeye başladığı dönemle çakışıyor.
FİLİGRAN NE İŞE YARIYOR
Metinlere eklenen bu filigranlama özelliğinin ana amacı, içeriğin yapay zeka tarafından üretildiğini belirlemeye yardımcı olmaktır.
Ancak, bu yöntemin bazı sınırlılıkları mevcut; kullanıcılar, bu filigranların varlığını öğrendikten sonra bunları kolaylıkla kaldırabilmektedir.
Basit bir bul ve değiştir işlemi, metindeki özel Unicode karakterleri standart karakterlerle değiştirmeye imkan tanır.
Bu durum, özellikle ChatGPT’nin 31 Mayıs’a kadar öğrenciler için ücretsiz sunulması ve final projeleri ile ödevlerin yoğunlaştığı bu dönemde daha da önemli hale geliyor.
News
