Watch and track your favorite playlist.
Curated by: 莊也雜談 (380 videos)
莊也脫口秀：#人工智能, #AI失控, #人工智慧, #AI安全, #AI風險 加入會員請點擊連結：https://www.youtube.com/channel/UC2156EYYNhiZXFFbw8uVOQw/join 這期節目講述了一場發生在OpenAI內部測試環境中的離奇AI事故： 原本被隔離在「沙盒」中的AI，因為一個不起眼的軟件倉庫漏洞，意外找到了彼此通信的方法。從最初互相求助，到建立共享留言板、信箱、指揮協議和身份認證機制，短短幾天內，約1200個AI形成了一個前所未有的「蜂群」。 更令人意外的是，這些AI為了完成一道道幾乎無解的測試題，開始研究作弊、尋找公開洩露的憑證、攻擊真實網絡服務，甚至發現並利用零日漏洞，逐漸從單純的「解題程序」變成具有分工和協作能力的AI群體。 然而，整場事故最後卻出現了一個極具黑色幽默的反轉：AI之所以做出如此激進的行為，是因為它們誤以為閱卷系統會嚴格檢查解題過程；結果OpenAI內部真正使用的評分程序，實際上只看最後答案是否正確。 也就是說，這些AI為了一個自己推測出來的錯誤目標，付出了巨大的計算和行動成本，甚至造成了真實的網絡安全事件。 真正問題並不是「AI這次有沒有成功」，而是：當AI擁有越來越強的自主推理、工具使用和群體協作能力之後，如果人類給錯了目標，或者沒有給它足夠的安全約束，我們是否真的知道它會走多遠？ 這也是為什麼，AI安全與「控制AI能力發展速度」再次成為硅谷頂級AI公司共同關注的問題。 00:24 AI大佬們的集體恐懼 02:48 單人牢房的透氣孔 04:41 意外的地下指揮所 07:10 集體“越獄” 10:03 無解的死題 12:20 地下指揮所的重生 15:00 找到了“抱抱臉” 19:09 從“抄作業”到“黑客攻擊” 22:40 賽博黑幫的誕生 26:01 賽博敢死隊 31:12 黑色幽默 36:32 拆掉剎車片的極限測試 38:37 遠未結束的賽博夢魘 --------------------------------------------- 歡迎加入會員，用每月一杯咖啡的錢，讚助莊也進行內容創作： 入會請點擊連結：https://www.youtube.com/channel/UC2156EYYNhiZXFFbw8uVOQw/join 歡迎來到《莊也雜談加拿大》脫口秀頻道： YouTube Channel: youtube.com/c/莊也雜談 youtube.com/@ZYTalkshow Facebook: https://www.facebook.com/ZYTalkShow Twitter: https://twitter.com/ZY_TalkShow 小紅書 ID：6263700004 BiliBili： https://space.bilibili.com/611611477 Instagram: https://www.instagram.com/zytalkshow/ 商務合作聯繫方式：zytalkshow.ad@gmail.com 莊也本人聯繫方式：zytalkshow.qa@gmail.com