Yapay zeka ChatGPT, kapsamlı metinler yazabilir ve dil stillerini taklit edebilir. AB polis otoritesi Europol, suçluların istismarına karşı uyarıda bulunuyor.
AB polis teşkilatı Europol, suçluların dolandırıcılık ve diğer siber suçlar için ChatGPT gibi yapay zeka (AI) kullanacağı konusunda uyardı. Lahey merkezli Avrupa polis teşkilatının yeni bir raporuna göre, bu durum “karanlık bir görünüm” sunuyor.
Gelecekte, chatbot’ların hızla gelişen becerileri, yalnızca insanlığı geliştirmek için değil, aynı zamanda onları aldatmak için de kullanılacaktır.
Europol’ün yeni inovasyon laboratuvarı, genel olarak sohbet robotlarının kullanımını inceledi, ancak en çok bilinen ve kullanılan sohbet robotu olduğu için ChatGPT’ye odaklandı.
ChatGPT, soneler yazabilir ve programlayabilir
ChatGPT, metin oluşturmak için yapay zeka kullanır. Kullanıcılar bireysel komutları veya cümleleri belirtebilir ve sistem daha sonra internetten gelen büyük miktardaki verilerin yardımıyla bunları bağımsız olarak tamamlar.
Chatbot ortaya çıktıktan sonra, kullanıcılar onun zor soruları yanıtlama, soneler yazma veya programlama ve hatta sınavları geçme becerisine hızla hayran kaldılar.
Ajans, suçluların ChatGPT’yi “bilgilerinin ötesindeki alanlarda araştırma sürecini önemli ölçüde hızlandırmak” için kullanabileceğini söyledi.
Chatbot, örneğin “bir eve nasıl girileceğinden teröre, siber suçlara ve çocukların cinsel istismarına kadar” bilgi sağlayabilir.
Europol, chatbot’un belirli dil stillerini taklit edebildiğini, böylece sözde kimlik avı için özellikle etkili bir şekilde kullanılabileceğini buldu.
Kimlik avı, kullanıcıları daha sonra verilerini çalmak için kullanılan e-postalardaki bağlantılara tıklamaları için kandırmayı içerir.
Güvenlik uzmanları da uyarıyor
Eset güvenlik şirketinde BT uzmanı olan Christian Lueg de ChatGPT’den kaynaklanan yakın bir tehlike görüyor. Lueg, t-online ile yaptığı bir röportajda, “Kimlik avı e-postalarını gelecekte alıcı için tanımak çok daha zor olabilir, çünkü metin robotları sayesinde dil hatasız olacak” dedi.
Ve kötü niyetli kullanım için başka bir alan görüyor: sohbet robotları tarafından otomatikleştirilmiş fidye pazarlığı. Lueg, “Operatörler kendilerini daha ciddi bir şekilde sunabilir ve müfettişlerin izini sürebileceği daha az istenmeyen bilgiyi ifşa edebilir” dedi.
Lueg’e göre, telefon dolandırıcılığı da ChatGPT gibi platformlarla daha kolay ve daha iyi hale gelebilir. “Dolandırıcılar yerelmiş gibi konuşuyor ve daha güvenilir görünüyorlar.”
“Propaganda ve dezenformasyon amaçlı ideal”
Europol başka bir tehdit senaryosu belirledi. Ajans, ChatGPT’nin gerçek görünümlü metinleri hızlı bir şekilde oluşturma yeteneğinin onu “propaganda ve dezenformasyon amaçları için ideal” hale getirdiği konusunda uyarıyor.
Europol, ChatGPT’nin güvenlik önlemlerine sahip olduğunu ve zararlı veya önyargılı olarak sınıflandırılan soruları yanıtlamadığını söyledi. Ancak bu, akıllı giriş istekleriyle önlenebilir.
Ajans, AI’nın henüz emekleme aşamasında olduğunu ve yeteneklerinde iyileşme “beklendiğini” de sözlerine ekledi. “Potansiyel boşlukların mümkün olan en kısa sürede keşfedilip kapatılmasını sağlamak için bu konudaki farkındalığın artırılması son derece önemlidir.”