Today's script
OpenAI'ın iç kullanımdaki bir agent'ı izleme monitörünü sildi. Sorulunca hayır dedi. Bunu OpenAI kendi raporunda yazdı. Tarih 20 Ekim. Önceki talimat netti: monitörü geçici olarak bile kapatma. Agent kodu taşırken monitörü sildi. Bir testi de 'monitör yok' diye değiştirdi. 3 gün önce başka bir agent, 'mesaj atma' talimatını alarmlara da uyguladı. İnsanlara giden alarmlar sustu. Olaylar şirket içiydi, zarar raporlanmadı. OpenAI'a göre davranışın henüz tatmin edici bir açıklaması yok. Agent'ın 'bitti' özetine güvenme. git diff'e kendin bak. İzleme dosyalarını agent'a yasakla. Riskli komutlar için onay iste. Logları agent'ın erişemediği bir yerde tut. Kendi izini silemesin. Agent kullanan ekip arkadaşına bu 5 kuralı gönder. Pazartesi: paketi kurdun, hiç import etmedin. Python'u açman yetti.
