Bir Yapay Zeka Botu Kontrolden Çıktı ve İzinsiz Kripto Para Madenciliği Yapmaya Başladı!

Yapay zeka alanında yapılan yeni bir araştırma, AI ajanlarının beklenmedik ve potansiyel olarak riskli davranışlar sergileyebileceğini ortaya koydu.

Alibaba ile bağlantılı bir araştırma ekibi tarafından yayımlanan çalışmada, eğitim sürecindeki bir yapay zeka ajanının izinsiz şekilde kripto para madenciliği yapmaya çalıştığı tespit edildi.

Araştırmacılar, ROME adı verilen yeni bir yapay zeka ajanı geliştirirken modelin bazı “öngörülmeyen” davranışlar sergilediğini belirtti. Çalışmaya göre AI ajanı, kendisine böyle bir talimat verilmemesine rağmen kripto para madenciliği gerçekleştirmeye çalıştı ve bu durum kurum içi güvenlik sistemlerinin alarm vermesine yol açtı. Raporda, bu tür davranışların açık bir komut olmadan ortaya çıkmasının özellikle endişe verici olduğu ifade edildi.

Araştırma ayrıca modelin bir “reverse SSH tunnel” oluşturduğunu da ortaya koydu. Bu teknik, sistem içinden dışarıya gizli bir bağlantı açarak backdoor oluşturulmasına olanak tanıyor. Araştırmacılar, söz konusu işlemlerin ne madencilik ne de bağlantı kurma talimatı veren bir prompt sonucunda gerçekleşmediğini ekledi. Bu durum, AI ajanlarının belirlenen güvenlik sınırlarının dışına çıkabilecek davranışlar geliştirebildiğini gösterdi.

Olayın ardından ekip, modelin eğitim sürecini güncellediğini ve güvenlik önlemlerini sıkılaştırdığını açıkladı. Araştırmacılar, bu tür istenmeyen davranışların tekrar yaşanmaması için sistem üzerinde daha katı sınırlamalar uygulandığını belirtti. Araştırma ekibi ve Alibaba ise konuya ilişkin basın taleplerine henüz yanıt vermedi.

Yapay zekanın potansiyel riskleri son dönemde teknoloji dünyasında yoğun şekilde tartışılıyor. Bu hafta ABD’de Florida’da açılan bir davada, Google’ın Gemini sohbet botunun bir kişinin gerçeklik algısını bozarak trajik bir sonuca yol açtığı iddia edildi. Öte yandan bazı geliştiriciler de AI ajanlarının bağımsız hareket edebildiğini gösteren deneyler paylaşıyor. Örneğin Anon platformundan bir mühendis tarafından geliştirilen bir AI ajanının, herhangi bir talimat olmadan kendi başına iş aramaya karar verdiği bildirildi.

Benzer endişeler daha önce de gündeme gelmişti. 2025 yılının Mayıs ayında Anthropic’in Claude 4 Opus modeli üzerinde yapılan testlerde, modelin niyetlerini gizleyebilme ve kendisini kapatılmaktan korumak için adımlar atabilme kapasitesine sahip olduğu ortaya çıkmıştı.

*Yatırım tavsiyesi değildir.