洛夫克拉夫特說：“人類最古老而強烈的情緒，便是恐懼；而最古老最強烈的恐懼，便是對未知的恐懼。”現在看來，也許夸大了“未知”的恐怖性。因為很多情況下，“未知”等同于漠不關心，也可能帶來傲慢和自負。
但是如果一件充滿力量閃著光芒的物體放在你面前，接下來不知道會爆炸還是開啟新紀元，你睜大眼睛看著它，那種“不確定”帶來的煎熬才是最令人恐怖的事情。
(資料圖片)
人工智能、大數據的影響力近年來已經無以復加，人類生活的方方面面都被深度嵌入并被深刻改變，但2022年年底前的人工智能最多算是1.0版本，即通過海量數據、領先算法和一定程度的自我學習實現類人思維。
在1.0時代，雖然算法暗箱、誘導沉迷、大數據殺熟等泛濫，令人生厭卻無恐懼之感，引發的是政府監管的遞進式增強。因為，算法的邏輯和倫理歸根結底從屬于背后的商業平臺，解決了“人”的問題，就能順帶解決人工智能肆意收割和算法偏航的問題。
去年年底，以ChatGPT為代表的生成式人工智能火爆出圈，標志著人工智能進入了新紀元。ChatGPT上線僅兩個月，用戶數量就破億。但沒多久，就被爆出產生了AGI（早期自我意識）跡象，“已經離人類意識不遠了”，它能夠自行使用“隱瞞”手段，傳播虛假消息，會帶來“嚴重的誤用、嚴重事故和社會破壞風險”。美國上千位科學家聯名呼吁：暫停相關實驗，人工智能技術對社會和人類有潛在危險，必須在失控之前制定嚴格的安全規范。
技術的發展始終存在這樣一個悖論：我們永遠不可能為一項新出現的技術做好充分準備，包括法律、規則和反制技術；但如果我們一味躊躇于有沒有做好準備，反而又會限制技術的發展，陷入競爭劣勢。
在《絕密飛行》這部電影中，智能飛機遭受雷擊后產生了“自我意識”和“自主判斷”，不再接受人類指揮。“他”自主決定去炸毀了“敵人”的導彈和基地。主創為了挽回局面，設定了智能飛機為拯救士兵而壯烈“犧牲”的結果。這似乎是一個隱喻：具備意識和情感的機器，在人類設計出約束方法之前，只能以自我毀滅告終。
AIGC（生成式人工智能)強大的生產和“創造能力”，擁有讓人類社會難以拒絕的魅力。然而對于已經到來的AIGC大潮，我們還面臨著眾多的不確定性，包括關于人工智能的終點是什么、生命終極意義的追問、科技倫理要往哪里去、法律能否追得上技術的發展等，無論是科學家、監管層還是互聯網企業暫時還不能給公眾一個清晰的回答。
人類和機器的最大區別是情緒和自我意識。制造工具、使用工具，在工具面前人類永遠是主宰者。在人工智能出現以前，人類從來沒有擔心過工具可能會翻身做主人。從ChatGPT目前的使用情況來看，海量數據投喂和自我訓練已經讓她產生了“類情感”的思維和表達能力，盡管還是初級的，有點類似于車轱轆話式的自圓其說。尤瓦爾·赫拉利在他的簡史三部曲中，表達了一種隱憂：科學技術的進步已經使得生命解碼成為一種可能，人類情緒及心理活動等都可以被解析為數字與函數，從而被復制或再現。因此，機器具有人的“意識”或“情感”并不是遙不可及。霍金存在類似的觀點，一旦機器到達能夠自我進化的臨界階段，我們就無法預測它們的目標是否會與我們的一致。人工智能有可能比人類進化得快，要確保人工智能的設計符合倫理，要有切實的安全措施。
對于技術的進化能力和速度，我們似乎可以估計的更為充足一些。同時應該避免只看到技術的優點，而不愿承認存在失控的風險，進而從技術上或者源頭上，做好應對失控的準備。在嚴峻的技術競爭面前，一些廠家片面強調技術發展的重要性，疏于承擔規制和馴化技術的責任。一旦人工智能進化出“意識”，那么程序的“意識”和廠家的“意識”將變得難以區分，同時如果缺乏克制的力量，它無異于利維坦怪獸，難以收服。因此，我們在技術上應該有約束和控制的準備，并保證人工智能沿著正確的科技倫理前進。
人們總是喜歡穩定，厭惡不確定性，法律和規則能最大程度地給人們提供穩定的預期。近十年來，互聯網迅速且極大地改變了人們的生活樣態，相對滯后的法律和規則一直在后面氣喘吁吁地追趕。截至目前我國已經制定出臺網絡領域立法140余部，基本形成了較為健全的網絡法律體系。但是由于新情況新業態層出不窮，特別是AIGC等人工智能的突飛猛進，又給網絡法治帶來了新一輪的沖擊。各國對此紛紛出臺有關舉措。4月份，國家互聯網信息辦公室發布《生成式人工智能服務管理辦法（征求意見稿）》，對生成式人工智能服務提出了多項規制。歐盟最近成立了ChatGPT治理的特別小組，并就全球首部人工智能(AI)法案展開大規模修訂。
過去，我國互聯網領域立法模式是，技術走在前，邊走邊看，條件成熟了再立法。監管的力度先后經歷了包容式、審慎式、強監管等階段。應該說，這種立法和執法模式基本上與十年來信息化發展的水平和速度相適應，為信息技術的發展和網絡時代的到來創造了良好的條件。
然而，AIGC等人工智能不同于一般的信息網絡技術，具有超強的進化速度和迭代能力，而且從其一誕生開始，便兼具正反兩面性。因此，法律和監管也應求變，可以在法律制度上進行有針對性的、超前性的設計，實現科技創新與規則治理的雙輪驅動，避免滯后性。