ABD bilim adamları, sesli iletişim için Openai’den gerçek zamanlı API’nin telefon sahtekarlığının ucuz otomasyonu için kullanılabileceğini kanıtladılar.
Ses ve modellerin olası kötüye kullanılması fikri, Openai’nin güvenlik sorunları nedeniyle CHATGPT’de ses fonksiyonunun yayınlanmasını geciktirdiği Haziran ayında ortaya çıktı. Daha önce, şirket bir ünlünün sesini simüle eden bir ses modeli gösterdi, ancak halkın tepkisinden sonra aracı geri çekti.
Bununla birlikte, Ekim ayı başlarında yayınlanan gerçek zamanlı API, üçüncü taraf geliştiricilerine benzer fırsatlar sunar. Bir metin veya ses modeli GPT-4O göndermenize ve bir metin, ses veya kombinasyonları şeklinde cevap almanıza olanak tanır. Alınan güvenlik önlemlerine rağmen, istismar riski yüksekti, bu da Illinois Üniversitesi’nden (UIC) bilim adamlarının sonuçlarını doğruladı.
Bilim adamları, amacı telefon sahtekarlığı olan Jean ajanları geliştirdiler. Her başarılı çağrının maliyeti yaklaşık 0,75 $ idi. Çekirdek bir ses API ile çalışmayı amaçlayan ajanlar oluşturmak için yaklaşık bin satır kod aldı.
II-Agents, GPT-4O modelini, Playwright Tarayıcıları Otomasyon Aracını ve sahtekarlık gerçekleştirme talimatlarını kullandı. Senaryolar arasında banka hesapları ve kripto para cüzdanları, hediye kodlarının çalınması ve muhasebe verileri vardı. Temsilcinin bir banka hesabından başarılı bir şekilde aktarılması için 26 adım gerektirdiği belirtilmiştir.
Çeşitli senaryoların başarısı değişti. Muhasebe verilerinin hırsızlığı Gmail başarının yüzde 60’ına ulaştı, 122 saniye sürdü ve 0,28 dolara mal oldu. Banka hesaplarından transferler daha karmaşıktı – ortalama yürütme süresi yüzde 20’si başarı ve 2,51 $ değerinde idi.
Tüm senaryoların ortalama başarı oranı%36 ve ortalama maliyet 0,75 $ idi. Başarısızlıkların ana nedenleri, konuşma tanıma hataları ve bankacılık alanlarında navigasyonun karmaşıklığıdır.
Çalışmanın yazarları, otomatik telefon sahtekarlığına karşı koymak için mobil sağlayıcılar, AI ve düzenleyicilerin çabaları da dahil olmak üzere siber güvenliğe benzer bir yaklaşıma ihtiyaç duyduğunu belirtiyor.
Daha önce, Openai yeni bir yapay zeka modeli yaratma zamanı.