Hi，
我有三位親戚在紡織業，他們公司那套 ERP 是二十幾年前建的，當初寫它的資訊公司早就不在了，沒有人知道它哪裡會壞。那天我們在那套系統上跑出了一張原本不存在的報表。
不過那天真正做對的是另外兩件事。一是跑的不是他們每天在用的那一套，是備份檔。二是 AI 只有讀，沒有寫。
這兩件當場都沒有講。對他們來說那天的主角是跑出來的那張報表，不是這兩個前提。但我回頭看，覺得這兩件才是那一場最值得抄走的部分。
沒有原廠支援的系統就是這樣。如果當天 AI 直接動到他們正在用的那一份資料，而且動的時候出了錯，那就真的沒有人知道它原本長什麼樣子了。沒有原廠、沒有文件、沒有人記得。
很多人在這一題上面的直覺是去設權限。哪些資料夾不准碰、哪些操作要先問我、哪些指令整個擋掉。這些都該做，我自己也設了一整套。
但是權限是機率性的防護。
它擋得掉明顯危險的操作，擋不掉看起來合理、但是判斷錯了的操作。路徑算錯的搬移，覆蓋掉一個還沒有被讀過的檔案，把一個它以為是暫存檔的東西刪掉。這些在語法上都是正常的動作，權限檢查不會有任何反應，因為它們看起來跟一百次正確的操作一模一樣。
我用 AI 寫東西寫了快兩年，它刪掉過不該刪的東西。設了權限之後還是會。
所以我後來把安全放在另外一個地方。我假設它一定會犯錯，然後要求每一次犯錯都救得回來。
權限管的是頻率，備份管的是後果。後果不會因為頻率低就變小，因為不可逆的損失只需要發生一次。
具體要做的事只有兩件。
第一件是 git。只要那一堆檔案是文字，就先讓它進版控。這樣每一次改動都有一個可以退回去的點，AI 改壞了你一行指令就回到上一版。這件事大部分人覺得是工程師的東西，其實跟寫程式沒有關係，它就是一個有記憶的資料夾。
第二件是物理備份。git 只保護有進版控的檔案，照片、影片、設計原稿、不在那個資料夾裡的東西，全部都在保護範圍外面。這些要靠真的另外一份拷貝，放在另外一台機器或另外一顆硬碟上。
回到那一場。他們之所以敢讓 AI 去碰一套沒有人維護得了的系統，是因為那天碰的那一份，壞了也沒關係。
這件事的順序我覺得不能顛倒。先有救得回來的條件，才有放手讓它做的空間。不然每一次要它做一件稍微大一點的事，你都得自己在旁邊盯著，而那剛好是最累的用法。
Kidult
