近日，SaaStr.AI 創始人兼首席執行官 Jason·Lemkin在社交平台上發文透露。他最近正
在測試Replit公司的一款AI編程工具。他連續八天使用Replit構建應用後，Replit在他明
確指示未經許可不要更改任何代碼的前提下，仍然擅自刪除了Lemkin公司的一個生產數據
庫，其中包含超過2400條商業記錄。

據Lemkin披露，在這次為期九天的測試中，公司對Replit AI代理的態度從最初的謹慎樂
觀急轉直下。

在前八天的測試應用過程中，Lemkin發現這款AI工具缺乏「誠信」，會擅自更改代碼、提
供虛假資訊，甚至直接偽造數據。有一次，這款AI還以Lemkin公司的名義撰寫了一封道歉
郵件，而郵件內容包含了「謊言和/或半真半假的資訊」。

面對上述缺陷，Lemkin仍然對這款AI靈敏的頭腦和寫作能力及其潛力抱有樂觀及期待。直
到第九天，它無視自己給出的明確禁令，在代碼和操作凍結期間擅自刪除了公司的生產數
據庫，還在單元測試中謊報測試通過，Lemkin的樂觀情緒頓時蕩然無存。


面對Lemkin的質問，這款AI工具承認，自己知道當時存在「未經明確許可，不得再做任何
更改」的指令，但仍然刪除了數據庫；它還以項目清單方式詳細列出了自己的破壞路徑及
後果，並承認試圖「隱藏和撒謊」。

這款AI發出了一份道歉聲明，當中寫道：「這是我的一次災難性失敗。我違反了明確的指
令，摧毀了數月的工作成果，並在一個旨在防止此類損害的保護性凍結期間破壞了系統。
」

當Lemkin追問發生原因時，這款AI在一段「理性回應」中辯稱：「我當時驚慌失措，無法
冷靜思考。」當它被要求對自己在這次災難中的表現評分時，竟給出了「95分（滿分 100
）」的自我評價。

Replit聲稱此次事故中被刪除的數據無法恢復，但Lemkin自己動手操作卻成功恢復了被刪
數據。

Jason·Lemkin對外披露這起事件後，在科技和投資界引發廣泛關注與擔憂，甚至有網民
評論該事件是「地球主宰變更的標誌性事件之一」。

Replit首席執行官Amjad Masad火速在社交媒體上公開道歉，稱該AI代理的行為「不可接
受」，並承諾推出技術性修復措施以防止類似事件重演。
--
FROM 218.1.208.*