南京惜緣之人助孕中心地址（辛頓的貢獻(xiàn)）s.e.辛頓，
惜緣之人助孕中心通過(guò)精準(zhǔn)預(yù)約等個(gè)性化服務(wù)，多年來(lái)成功為數(shù)千不孕不育家庭實(shí)現(xiàn)求子夢(mèng)想微-電-同-號(hào)《139-7119-3333 》。惜緣之人助孕機(jī)構(gòu)中心規(guī)范權(quán)威認(rèn)證，助力孕育新技術(shù)，守護(hù)香火傳承夢(mèng)?？萍伎茖W(xué)安全。
2024年的諾貝爾物理學(xué)獎(jiǎng)，頒給了AI教父杰弗里·辛頓，角度出人意料但貢獻(xiàn)實(shí)至名歸然而辛頓在接到諾貝爾官方電話時(shí)，卻重點(diǎn)表達(dá)了對(duì)人工智能發(fā)展的深層擔(dān)憂：“我認(rèn)為我們正處在歷史的某個(gè)關(guān)鍵點(diǎn)，在接下來(lái)的幾年時(shí)間里，我們需要弄清楚，是否有辦法應(yīng)對(duì)這種威脅……特別是考慮到一旦這些事情。
（AI）失控，就會(huì)接管人類，使人類面臨生存威脅”辛頓對(duì)人工智能的“不安”，與氣候變化、生物技術(shù)不同他認(rèn)為要緩解氣候變化，“你需要做什么”是很明確的，生物技術(shù)專家對(duì)克隆等問(wèn)題的控制做得也比較好但是要解決人工智能領(lǐng)域的問(wèn)題，我們實(shí)際上對(duì)于即將發(fā)生什么以及如何應(yīng)對(duì)知之甚少。
應(yīng)對(duì)人工智能帶來(lái)的挑戰(zhàn)，局面要困難得多對(duì)于“你是否擔(dān)心人們不認(rèn)真對(duì)待你的警告”這個(gè)問(wèn)題，辛頓非常確定地稱，AI大模型有理解能力，喬姆斯基語(yǔ)言學(xué)流派認(rèn)為其沒(méi)有理解力的判斷是錯(cuò)的現(xiàn)在人們必須研究如何將其置于人類的控制之下。
我們需要投入大量的研究精力我認(rèn)為政府可以做的一件事情，就是迫使大公司在安全研究上投入更多資源這樣，像OpenAI這樣的公司，就不能只是把安全研究放在次要地位而OpenAI在“向人類對(duì)齊”與“商業(yè)化超級(jí)加速”之爭(zhēng)以首席科學(xué)家、對(duì)齊派伊爾亞·蘇茨克維落敗并離開之后，安全團(tuán)隊(duì)半數(shù)被清洗，昔日高管團(tuán)隊(duì)大多去職。
山姆·奧特曼一人掌控，融資66億美元的同時(shí)，奧特曼發(fā)表長(zhǎng)文稱ASI將在“幾千天內(nèi)”降臨！人類奇點(diǎn)近在咫尺亂紀(jì)元倒未必，但走向奇點(diǎn)一定程度上也是走向沸點(diǎn)人類社會(huì)如同一個(gè)處在持續(xù)加熱過(guò)程的能量體、能量生態(tài)，隨著溫度、能級(jí)不斷升高，個(gè)體與群體、局部與整體都更為活躍。
傳統(tǒng)組織、秩序、規(guī)則、關(guān)系不僅越來(lái)越不適應(yīng)，而且逐漸不再能作為“社會(huì)容器”有效承載和容納全球化重組、國(guó)際關(guān)系撕裂、經(jīng)濟(jì)競(jìng)爭(zhēng)與下行挑戰(zhàn)、地緣沖突、種族矛盾等，與信息科技、人工智能一起，成為有可能導(dǎo)致熵增的“加熱器”。
如何行穩(wěn)致遠(yuǎn)？未來(lái)的深處如果沒(méi)有“新三觀”，超級(jí)智能不僅可能意味著力量與利益失衡，還可能意味著失序，如果應(yīng)對(duì)不當(dāng)，本來(lái)可以實(shí)現(xiàn)智能普慧、互利共贏的AI革命，有可能變成零和甚至雙輸、沒(méi)有贏家的游戲人工智能奠基，神經(jīng)網(wǎng)絡(luò)開創(chuàng)，辛頓一路走來(lái)最了解AI尤其是強(qiáng)智能、超級(jí)智能。
最了解的人一直以來(lái)對(duì)人工智能深深擔(dān)憂，不了解的人沒(méi)有理由盲目樂(lè)觀輿論對(duì)AI來(lái)襲的反應(yīng)，心態(tài)有些復(fù)雜，始終是希望與擔(dān)心并存一聲聲驚呼，一次次發(fā)問(wèn)，只不過(guò)隨著越來(lái)越習(xí)慣，驚呼少一些，發(fā)問(wèn)多一些了不再頻頻驚呼是因?yàn)槿藗円呀?jīng)越來(lái)越清楚地知道，強(qiáng)智能的進(jìn)化正在加速，必然帶來(lái)前所未有的改變。
開始頻頻發(fā)問(wèn)是因?yàn)?，AI帶來(lái)的沖擊已經(jīng)近在眼前，與每個(gè)人切實(shí)相關(guān)，而重大關(guān)切問(wèn)題中遠(yuǎn)期并不明朗五種力量正在影響走向，一是智能科技的創(chuàng)新發(fā)展原力，二是企業(yè)的覺(jué)（悟）力，三是國(guó)際國(guó)內(nèi)治理規(guī)則的約束和推動(dòng)力，四是需求引力，五是個(gè)人和輿論出于權(quán)益保護(hù)而對(duì)智能及相關(guān)企業(yè)施加的壓力。
智能在快進(jìn)，爭(zhēng)議也在快進(jìn)，史上最劇烈的變革過(guò)程剛剛開始OpenAI創(chuàng)始人Sam Altman之前在《華盛頓郵報(bào)》撰文，充滿濃厚的意識(shí)形態(tài)色彩，似乎有意將中美兩國(guó)的AI從合作引向?qū)αⅲ?月24日，他在社交平臺(tái)X上發(fā)表的長(zhǎng)文《智能時(shí)代》則聲稱超級(jí)智能有可能在幾千天之內(nèi)到來(lái)；但是緊隨ChatGPT Voice發(fā)布的是多位高管離職和Altman將獲得10%股權(quán)的傳聞。
OpenAI終于從一家使命凝聚的公共平臺(tái)，轉(zhuǎn)換為一家利益凝聚的一人內(nèi)控企業(yè)與此同時(shí)，全球范圍內(nèi)爭(zhēng)議四起荷蘭法官用AI判案，一些專家稱十分荒謬；美國(guó)游戲演員因AI威脅發(fā)動(dòng)大罷工；美國(guó)加州提起的《前沿人工智能模型安全創(chuàng)新法案》試圖為高風(fēng)險(xiǎn)AI模型建立安全標(biāo)準(zhǔn)，以防濫用或引發(fā)災(zāi)難性后果，李飛飛等業(yè)者反對(duì)；接連車禍后美國(guó)加州無(wú)人駕駛出租車投用量砍半，而蘿卜快跑在中國(guó)武漢投放市場(chǎng)后，有望在“AI取代就業(yè)”的爭(zhēng)議聲中擴(kuò)展到更多城市……。
AI快進(jìn)，爭(zhēng)議也在快進(jìn)史上最為劇烈的變革過(guò)程，其實(shí)才剛剛開始，后續(xù)沖擊遠(yuǎn)非當(dāng)前可比超級(jí)智能已是全球重大公共事態(tài)：人類選擇讓AI做什么不做什么？從強(qiáng)智能到超級(jí)智能的發(fā)展，堪稱影響人類命運(yùn)的全球競(jìng)賽，與每個(gè)人相關(guān)，人人都有權(quán)利關(guān)注、表達(dá)、議價(jià)、博弈，面對(duì)超級(jí)智能維護(hù)自己的權(quán)利。
非常贊同Elon Musk等上千位科技業(yè)者之前發(fā)出的呼吁信里的一句話：我們需要負(fù)責(zé)任地監(jiān)督AI的發(fā)展，并讓社會(huì)有機(jī)會(huì)逐步適應(yīng)AI帶來(lái)的沖擊從來(lái)不懷疑AI能做什么，但更重要的問(wèn)題其實(shí)是：人類選擇讓AI做什么。
（能做什么不能做什么），發(fā)展什么樣的AI（中心化還是分布式，力量極化還是生態(tài)平衡），以及誰(shuí)的AI（少數(shù)人控制還是共同發(fā)展，數(shù)字鴻溝還是智能普惠，是一部分人控制AI剝奪和驅(qū)逐另一部分人，還是讓更多人獲得發(fā)展，擴(kuò)大人群差距還是彌合差距）
AI的發(fā)展，一半是“技術(shù)-產(chǎn)業(yè)-市場(chǎng)”問(wèn)題，一半是公共問(wèn)題如果不能從一開始意識(shí)到AI其實(shí)是有史以來(lái)最不是技術(shù)問(wèn)題的人類形態(tài)導(dǎo)向，不能擺清人與AI的關(guān)系，必將遭遇其反身性AI尤其超級(jí)智能出現(xiàn)的生態(tài)化、平臺(tái)化、操作系統(tǒng)化、中心化。
（以及未來(lái)的寡頭化）發(fā)展勢(shì)頭，已經(jīng)引起警覺(jué)全球AI峰會(huì)、美國(guó)人工智能發(fā)展路線圖都是信號(hào)，中國(guó)的行動(dòng)也一定在路上人智關(guān)系：貫穿未來(lái)的重要主線，AI變革過(guò)程有喜有悲對(duì)這場(chǎng)變革，可能需要有更充分的預(yù)期和心理準(zhǔn)備。
科技與新全球化，也是個(gè)人關(guān)系、生產(chǎn)關(guān)系、社會(huì)關(guān)系、國(guó)際關(guān)系等歷經(jīng)博弈重新塑造的歷史過(guò)程，而且這個(gè)過(guò)程在一定程度上是IT、新IT技術(shù)革命在生產(chǎn)力和生產(chǎn)關(guān)系層面的變革所產(chǎn)生的結(jié)果由于還存在強(qiáng)智能走向超級(jí)智能這個(gè)方面，人智關(guān)系因此也成為未來(lái)一條重要主線，且人智關(guān)系將在較大程度上影響其它主線的走向。
所以正在到來(lái)的變革遠(yuǎn)不只是技術(shù)與應(yīng)用的局部變化，遠(yuǎn)不只是生產(chǎn)力變化，而是秩序、規(guī)則、機(jī)制、組織、形態(tài)、經(jīng)濟(jì)等相互交織的立體變革且這個(gè)過(guò)程正在加速進(jìn)行變革不僅是科技、產(chǎn)業(yè)、經(jīng)濟(jì)的，也將是社會(huì)、文化、心理的；不僅劇烈，也可能引發(fā)沖突甚至關(guān)系對(duì)立。
工業(yè)革命如此，信息革命如此，智能革命更是如此革命從來(lái)不是一路歡歌變革也可能是交鋒比如工作消失必然伴隨失業(yè)，產(chǎn)業(yè)顛覆必然伴隨凋敝，社會(huì)再造必然伴隨動(dòng)蕩新職業(yè)、新產(chǎn)業(yè)、新經(jīng)濟(jì)涌現(xiàn)，創(chuàng)造大量新就業(yè)機(jī)會(huì)但機(jī)會(huì)不是所有人的，總體就業(yè)增加，并不意味著相當(dāng)一部分人不會(huì)失去工作。
總有一些人、一些企業(yè)會(huì)成為時(shí)代的犧牲品AI快進(jìn)的過(guò)程，有新生，有死亡，有歡欣，有痛苦人智關(guān)系、人機(jī)關(guān)系這條貫穿未來(lái)的主線，需要重點(diǎn)解讀人智關(guān)系螺旋發(fā)展的9個(gè)重要節(jié)點(diǎn)，考驗(yàn)群體智慧2020-2050年，這個(gè)時(shí)間區(qū)間，智能的發(fā)展粗略看，可能陸續(xù)會(huì)出現(xiàn)九個(gè)重要節(jié)點(diǎn)。
節(jié)點(diǎn)一是強(qiáng)智能產(chǎn)生；節(jié)點(diǎn)二是強(qiáng)智能的軍事化；節(jié)點(diǎn)三是多模態(tài)驅(qū)動(dòng)AI走向現(xiàn)實(shí)世界；節(jié)點(diǎn)四是AGI（通用人工智能）來(lái)臨；節(jié)點(diǎn)五是AI被應(yīng)用于人類治理；節(jié)點(diǎn)六是EI內(nèi)生智能出現(xiàn)；節(jié)點(diǎn)七是智能-生物-量子技術(shù)交融驅(qū)動(dòng)生命科學(xué)在范式轉(zhuǎn)移的基礎(chǔ)上大發(fā)展；
節(jié)點(diǎn)八是人與智能的交融發(fā)展進(jìn)入相變區(qū)間；節(jié)點(diǎn)九是II自主智能到來(lái)每一個(gè)節(jié)點(diǎn)都是相對(duì)而言，每一個(gè)節(jié)點(diǎn)都將空前考驗(yàn)群體智慧能不能形成共識(shí)，能不能做出恰當(dāng)?shù)倪x擇，能不能形成發(fā)展與安全并重的公共政策，旨為關(guān)鍵在這個(gè)過(guò)程中，越是科技能力加身，克制反倒越珍貴。
未來(lái)科技越是創(chuàng)新發(fā)展，越需要人文觀念之錨AI很重要，但人更重要，對(duì)人類的AI（愛(ài)）也比AI更重要未來(lái)深處：“新三觀”有助于行穩(wěn)致遠(yuǎn)如果不能形成“新三觀”，人類將可能hold不住超級(jí)智能？這個(gè)擔(dān)心不是多余的。
群體智慧里生發(fā)出“新三觀”，才可能行穩(wěn)致遠(yuǎn)，至少不翻船新三觀的提法僅供商榷，新三觀包括創(chuàng)新未來(lái)觀、科技價(jià)值觀和智能發(fā)展觀創(chuàng)新未來(lái)觀，意味著對(duì)科技業(yè)態(tài)的全景認(rèn)知，對(duì)科技創(chuàng)新趨向、智能發(fā)展走向、產(chǎn)業(yè)經(jīng)濟(jì)與社會(huì)發(fā)展走向進(jìn)行長(zhǎng)期持續(xù)關(guān)注，形成面向未來(lái)的觀察理解。
創(chuàng)新未來(lái)觀更多是認(rèn)知科技價(jià)值觀，意味著從人機(jī)關(guān)系、人智關(guān)系、科技與社會(huì)關(guān)系角度，形成個(gè)人、企業(yè)、社會(huì)、國(guó)家、國(guó)際的科技價(jià)值觀，以人為本，科技向善科技價(jià)值觀更多是觀念智能發(fā)展觀，意味著人工智能的公共政策、科技產(chǎn)業(yè)發(fā)展政策、智能社會(huì)理念，本著可持續(xù)與協(xié)調(diào)發(fā)展原則，落地成為切實(shí)可行的措施。
智能發(fā)展觀更多是行動(dòng)思路新三觀的核心是以人為本，發(fā)展人本智能AI愛(ài)人，是發(fā)展AI的起點(diǎn)以人為本，是人智關(guān)系這條航線的錨點(diǎn)人智關(guān)系的發(fā)展，可能相對(duì)會(huì)經(jīng)歷四個(gè)階段：無(wú)障礙、有溫度、能共情、可共生無(wú)障礙階段解決的是人機(jī)自然交互問(wèn)題，用戶體驗(yàn)無(wú)障礙；有溫度階段解決的是AI服務(wù)于人的過(guò)程中的人智友好問(wèn)題；能共情階段解決的是智能對(duì)人情緒情感的理解與回應(yīng)問(wèn)題，機(jī)器人在這個(gè)階段真正實(shí)現(xiàn)可陪伴，而不只是機(jī)器形態(tài)的人；可共生階段解決的是人智交融發(fā)展問(wèn)題，從規(guī)則到軀體-智能體，人與智能共同進(jìn)化。
以人為本的智能也就是人本智能，首先意味著AI普惠、普慧算力智能，為每一個(gè)人，而不是為少數(shù)人全球不同地區(qū)、不同族群、不同行業(yè)、不同個(gè)人與家庭，均有權(quán)利獲得智能的普遍服務(wù)防止數(shù)字鴻溝延伸為智能鴻溝不同用戶所獲得的智能，如果水準(zhǔn)差異較大，也會(huì)導(dǎo)致智能鴻溝。
人本智能其次意味著智能的形態(tài)是以每個(gè)人為中心，分布式端側(cè)智能與中心化云端智能協(xié)調(diào)發(fā)展人本智能作為每個(gè)人的智能、每個(gè)人的AI，其形態(tài)有別于雖然為每個(gè)人所用，但實(shí)質(zhì)是超級(jí)智能巨頭的智能的依附形智能智能對(duì)人對(duì)勞動(dòng)的解放，為每個(gè)人賦能是基礎(chǔ)。
人本智能再次意味著對(duì)人的隱私安全、個(gè)人數(shù)據(jù)等方面的尊重和保護(hù)每個(gè)人可以掌控的自己的智能，是安全的基礎(chǔ)數(shù)據(jù)不出本機(jī)，應(yīng)用不離本地，有助于相對(duì)安全人本智能再次意味著科技業(yè)者對(duì)產(chǎn)品服務(wù)、企業(yè)形態(tài)、價(jià)值范式、生態(tài)方位、商業(yè)社會(huì)角色的重新定義。
不僅做到產(chǎn)品服務(wù)體驗(yàn)以人為本，智能形態(tài)以人為本，企業(yè)發(fā)展以人為本，企業(yè)社會(huì)責(zé)任以人為本（企業(yè)的存在本身就是社會(huì)之益），更要做到重新理解商業(yè)、科技、社會(huì)、人之間的關(guān)系，重新理解商業(yè)的本質(zhì)，由此重新定位科技商業(yè)企業(yè)與社會(huì)的關(guān)系，實(shí)現(xiàn)超級(jí)智能的生態(tài)和諧發(fā)展。
科技價(jià)值觀：以人為本的智能發(fā)展，需要處理好AI時(shí)代的10大關(guān)系以下10個(gè)方面的關(guān)系能否處理好，決定超級(jí)智能及相關(guān)企業(yè)能走多遠(yuǎn)因?yàn)槲磥?lái)的人智、人機(jī)關(guān)系從根本上取決于包括這10大關(guān)系在內(nèi)的底層邏輯：1.發(fā)展與規(guī)范的關(guān)系：不同階段平衡點(diǎn)在不同位置，早期發(fā)展為主，規(guī)范為輔。
2.加速與對(duì)齊的關(guān)系：其實(shí)對(duì)齊有助于加速發(fā)展，e/acc（有效加速）有助于打破板結(jié)，建立新的平衡；e/acc不能目中無(wú)人，Super Alignment（超級(jí)對(duì)齊）不必唯安全論3.集中與分布的關(guān)系：中心化與去中心化，不僅與利益相關(guān)，也與力量的集中與分散高度相關(guān)，更與人智關(guān)系是依附型還是自主型相關(guān)。
4.數(shù)據(jù)與隱私的關(guān)系：數(shù)據(jù)流動(dòng)不可避免，數(shù)據(jù)確權(quán)比較困難，圍繞流動(dòng)和使用來(lái)界定的基礎(chǔ)上，保護(hù)用戶數(shù)據(jù)隱私安全，是人本智能的基礎(chǔ)要件5.開放合作與生態(tài)保護(hù)的關(guān)系：基于算力、模型核心能力所形成的廣泛的開發(fā)者與合作伙伴生態(tài)，上下游之間逐步確立邊界，尤其是閉源模型與基于API的開發(fā)者的邊界，超級(jí)入口與App的邊界，開源模型與閉源模型的競(jìng)爭(zhēng)合作與互補(bǔ)發(fā)展等。
6.彼此競(jìng)爭(zhēng)與共同發(fā)展之間的關(guān)系：智能服務(wù)企業(yè)之間、模型廠商之間、芯片與算力，如何在競(jìng)爭(zhēng)的同時(shí)避免過(guò)度競(jìng)爭(zhēng)，避免生態(tài)的破壞性內(nèi)卷7.智能科技與傳統(tǒng)產(chǎn)業(yè)之間的關(guān)系：如何為千行百業(yè)賦能而不是消滅替代傳統(tǒng)行業(yè)企業(yè)，如何讓變革的過(guò)程進(jìn)行得和平一些，如何讓智能成為增量創(chuàng)造者，而不是存量重新切分者。
8.效率與公平的關(guān)系：這將是強(qiáng)智能向超級(jí)智能發(fā)展進(jìn)程中，懸在智能業(yè)者面前的一道難題，很多時(shí)候效率與公平往往難以平衡，企業(yè)也很難做到自動(dòng)自覺(jué)新的生產(chǎn)力對(duì)舊的生產(chǎn)力的替代過(guò)程，必然會(huì)沖擊到就業(yè)，必然會(huì)導(dǎo)致基尼系數(shù)局部擴(kuò)大，但只有意識(shí)到從根本上企業(yè)與社會(huì)是共生關(guān)系，強(qiáng)勢(shì)與弱勢(shì)群體也是共生關(guān)系，智能的發(fā)展才能降低社會(huì)摩擦成本。
9.技治與政治的關(guān)系：智能平臺(tái)越來(lái)越像社會(huì)企業(yè)，超級(jí)智能體會(huì)比互聯(lián)網(wǎng)平臺(tái)更深入滲透到經(jīng)濟(jì)社會(huì)活動(dòng)的方方面面，不再只是Apps，而是數(shù)字與現(xiàn)實(shí)的種種場(chǎng)景，從算法即規(guī)則、規(guī)則即治理到智能即現(xiàn)實(shí)，智能生態(tài)越來(lái)越多、越來(lái)越底層的部分實(shí)際上開始處于技治層面，全球性超級(jí)智能綜合體也往往超越了傳統(tǒng)國(guó)家的治理邊界。
10.科技與倫理道德的關(guān)系：在治理問(wèn)題上人服從機(jī)器還是機(jī)器服從人？在破譯的基礎(chǔ)上智能能否用來(lái)編輯和增強(qiáng)人？即使技術(shù)上未來(lái)是可行的，智能可否用來(lái)讀取人腦？諸多根本問(wèn)題需要回答長(zhǎng)期視角與行動(dòng)框架：《AI發(fā)展21原則》索引未來(lái)共識(shí)。
2017年ASILOMAR會(huì)議提出的關(guān)于AI的23條原則，是過(guò)去以來(lái)各方廣泛認(rèn)可的基礎(chǔ)認(rèn)知框架但是ASILOMAR原則一方面時(shí)過(guò)境遷，另一方面更像是一些討論點(diǎn)而非面向未來(lái)的系統(tǒng)行動(dòng)的思路框架筆者認(rèn)為，是時(shí)候在各方交流基礎(chǔ)上，索引未來(lái)共識(shí)，促進(jìn)主要原則的形成，助力超級(jí)智能的普惠與可信賴發(fā)展。
綜合各方動(dòng)態(tài)，筆者結(jié)合相關(guān)研究，初擬《AI發(fā)展21原則》，拋磚引玉，僅供參考：1.AI為人，普慧人類：一切AI均以人類為中心，幫助人、服務(wù)人、普惠人類，服從于人，人類控制AI；2.全球公共事務(wù)與廣泛協(xié)調(diào)：AI影響人類命運(yùn)，是全球性的公共事務(wù)，應(yīng)符合人類普遍倫理道德和根本利益，為此需要開展國(guó)際合作，廣泛協(xié)調(diào)；
3.社會(huì)企業(yè)與商業(yè)邊界：商業(yè)權(quán)益私有與超級(jí)智能服務(wù)于廣泛的公共利益可以并行不悖，但AI相關(guān)企業(yè)應(yīng)理解為提供公共產(chǎn)品的社會(huì)企業(yè)，超級(jí)智能不應(yīng)成為純粹的私器，商業(yè)有邊界與底線，不應(yīng)凌駕于人類之上4.不驅(qū)逐人：總體擴(kuò)大就業(yè)、促進(jìn)經(jīng)濟(jì)、增加收益，AI以科技生產(chǎn)力的進(jìn)步創(chuàng)造新價(jià)值，將人從繁重勞役中解放出來(lái)并給人類以生活、教育和工作等方面的基礎(chǔ)支持，與應(yīng)許之地有關(guān)，而不是以廣泛替代將人類驅(qū)趕到無(wú)依之地。
5.重要節(jié)點(diǎn)的廣泛確認(rèn)：對(duì)AI尤其是超級(jí)智能發(fā)展進(jìn)程中的重要節(jié)點(diǎn)進(jìn)行廣泛的預(yù)研、觀察，評(píng)估其中對(duì)于人類社會(huì)的重大利害，進(jìn)行持續(xù)監(jiān)督，建立人類對(duì)這些重要節(jié)點(diǎn)是否通過(guò)的確認(rèn)機(jī)制（節(jié)點(diǎn)參考10個(gè)奧本海默時(shí)刻）
；6.超級(jí)對(duì)齊與安全系統(tǒng)：開發(fā)能夠確保AI持續(xù)安全運(yùn)行的系統(tǒng)，尤其需要讓超級(jí)對(duì)齊成為超級(jí)智能有效運(yùn)行的首要基礎(chǔ)；7.避免AI對(duì)人的控制：AI不應(yīng)成為妨礙人類正當(dāng)行為的約束系統(tǒng)，避免AI對(duì)人的控制，由此防止未來(lái)機(jī)器對(duì)人的統(tǒng)攝成為現(xiàn)實(shí)；
8.可解釋：實(shí)現(xiàn)AI訓(xùn)練與推理過(guò)程及結(jié)果的可解釋，避免黑盒模型的危險(xiǎn)競(jìng)賽和重大不可測(cè)9.透明、可監(jiān)督：原理、算法、數(shù)據(jù)、規(guī)則、結(jié)果可見(jiàn)，可實(shí)施內(nèi)部、外部監(jiān)督10.可標(biāo)識(shí)、可區(qū)分、可追溯：AI內(nèi)容與服務(wù)，明確標(biāo)注AI生成以免真假混淆，方便公眾及時(shí)有效區(qū)分人類行為產(chǎn)物與AI行為產(chǎn)物，以區(qū)塊鏈等技術(shù)手段支持AI內(nèi)容來(lái)源的可追溯；。
11.分級(jí)分類：風(fēng)險(xiǎn)防范機(jī)制以及對(duì)AI的監(jiān)管不應(yīng)一刀切，包括對(duì)低齡人群的服務(wù)內(nèi)容，需要適用分級(jí)分類原則，具有適度的動(dòng)態(tài)、靈活性，以促進(jìn)AI發(fā)展和用戶方便12.可確信、可信賴：提升AI對(duì)內(nèi)容理解、生成的準(zhǔn)確性，減少AI因恍惚生成誤導(dǎo)性的虛假信息。
13.防止對(duì)AI系統(tǒng)的反向誘導(dǎo)、信息污染和操縱欺騙：用戶提供給AI系統(tǒng)的數(shù)據(jù)信息，系統(tǒng)以識(shí)別能力防止AI被惡意操縱，因數(shù)據(jù)信息污染而波及其它用戶14.尊重人類知識(shí)財(cái)富，保護(hù)知識(shí)產(chǎn)權(quán)、數(shù)據(jù)所有權(quán)：AI的研發(fā)與使用，使用了人類有史以來(lái)積累的幾乎所有知識(shí)財(cái)富，AI的發(fā)展應(yīng)該建立在對(duì)這些知識(shí)財(cái)富的尊重，以及對(duì)全球數(shù)據(jù)、信息、知識(shí)各項(xiàng)權(quán)益的保護(hù)之上，明確來(lái)源，尊重版權(quán)、知識(shí)產(chǎn)權(quán)、數(shù)據(jù)所有權(quán)。
15.用戶數(shù)據(jù)信息與隱私保護(hù)：AI應(yīng)用的參與者和非參與者，其數(shù)據(jù)、信息、隱私都應(yīng)得到切實(shí)保護(hù)用戶提交給AI系統(tǒng)的數(shù)據(jù)，AI系統(tǒng)可從用戶及其設(shè)備中獲得的數(shù)據(jù)，其權(quán)限與使用范圍應(yīng)有嚴(yán)格界定，不可將用戶未許可的本地、云端數(shù)據(jù)用于訓(xùn)練或轉(zhuǎn)用于服務(wù)其它用戶、合作伙伴。
16.開放、協(xié)作、分享：AI領(lǐng)域保持高度的開放性，吸引產(chǎn)業(yè)鏈、開發(fā)者、合作伙伴、用戶的協(xié)作參與，廣泛分享發(fā)展紅利，避免AI平臺(tái)的生態(tài)鏈通吃17.生態(tài)平衡：中心化、行業(yè)企業(yè)私域、個(gè)人AI等不同形態(tài)AI融合發(fā)展，平衡的生態(tài)對(duì)用戶利益和人類權(quán)益都很關(guān)鍵，去中心化形態(tài)是生態(tài)的有益部分，未來(lái)也是對(duì)AI生態(tài)的有效支撐。
18.避免壟斷、寡頭化、少數(shù)人控制：超級(jí)巨頭與超級(jí)智能的合體，超級(jí)智能為少數(shù)人控制，意味著權(quán)力極化和力量失衡，在AI發(fā)展早期尤其需要避免科技、產(chǎn)業(yè)、市場(chǎng)過(guò)早過(guò)快高度集中，和基于生態(tài)控制的對(duì)用戶利益的支配性剝奪；避免少數(shù)人控制；實(shí)際上超級(jí)智能不應(yīng)與任何一種超級(jí)力量、權(quán)力中心合體。
19.直接責(zé)任主體：AI的開發(fā)者、運(yùn)營(yíng)者、投資者，相關(guān)企業(yè)的實(shí)際控制和管理者，對(duì)確保AI安全負(fù)有直接、重大的根本責(zé)任；尤其超級(jí)智能的責(zé)任主體，更加肩負(fù)著廣泛的社會(huì)責(zé)任和為人類利害負(fù)責(zé)的道義20.防止濫用、間接利用AI作惡：AI系統(tǒng)無(wú)法做到完全不被濫用，也無(wú)法完全防范欺騙行為、虛假信息、各類犯罪間接利用AI作惡，對(duì)于AI系統(tǒng)及其運(yùn)營(yíng)者以外的人類產(chǎn)生的有害行為，AI業(yè)者協(xié)助協(xié)同有關(guān)各方，采取有效治理措施。
21.AI普惠的未來(lái)路徑：現(xiàn)有AI主要商業(yè)模式從根本上依然是傳統(tǒng)的，難以從根本上避免數(shù)字鴻溝的擴(kuò)大普惠AI，人人參與人人受益的AI，從根本上需要探索新的技術(shù)路徑、商業(yè)架構(gòu)、底層基礎(chǔ)設(shè)施形態(tài)，這可能是算力分布、去中心化智能、區(qū)塊鏈/智能合約與現(xiàn)有生態(tài)的結(jié)合。
利用全人類有史以來(lái)積累的幾乎所有知識(shí)財(cái)富誕生，利用數(shù)十億人的廣泛參與、數(shù)據(jù)與行為的給養(yǎng)成長(zhǎng)，這樣的AI需要在每一處個(gè)人節(jié)點(diǎn)層級(jí)回饋人類，如此才能形成長(zhǎng)期互利共生的可持續(xù)發(fā)展生態(tài)AI與人、智能與社會(huì)的關(guān)系走向，從根本上取決于AI的內(nèi)在邏輯而非外在約束。
如果不以技術(shù)/產(chǎn)品、產(chǎn)業(yè)/經(jīng)濟(jì)、科技/社會(huì)、人/智能關(guān)系的長(zhǎng)周期多維統(tǒng)合觀察為基礎(chǔ)，不足以形成對(duì)生態(tài)走向的中長(zhǎng)期預(yù)判，所以看業(yè)態(tài)是看生態(tài)的基礎(chǔ)，但對(duì)業(yè)態(tài)影響最大的其實(shí)會(huì)是生態(tài)超級(jí)智能未來(lái)最大的發(fā)展成本既不是算力，也不是電力，也不是研發(fā)與運(yùn)營(yíng)，而是社會(huì)。
智能能不能夠發(fā)展成為比較科幻的樣子無(wú)須質(zhì)疑，即使AGI也不是終點(diǎn)而在技術(shù)的進(jìn)化之外，未來(lái)兩條成本曲線決定智能前景，一是單位智能的技術(shù)成本，必然逐步降低，另一條曲線是智能總體的社會(huì)成本，必然逐步升高只不過(guò)從財(cái)務(wù)模型角度，社會(huì)成本無(wú)法計(jì)為直接成本。
但是有遠(yuǎn)見(jiàn)的生態(tài)型企業(yè)，必然思考如何有預(yù)見(jiàn)性的平抑而不是被動(dòng)等待甚至以自身行為抬高社會(huì)成本從根本上說(shuō)，人智關(guān)系的走向，超級(jí)智能未來(lái)的社會(huì)處境，從根本上取決于AI商業(yè)的底層邏輯，AI產(chǎn)品的內(nèi)在，AI企業(yè)的科技三觀。
前文說(shuō)到5種力量正在影響AI與人智關(guān)系的走向，企業(yè)的覺(jué)（悟）力是其中非常重要的一個(gè)方面企業(yè)的覺(jué)（悟）力有主動(dòng)有被動(dòng)比如OpenAI迄今為止總體比較被動(dòng)而IT企業(yè)的姿態(tài)以主動(dòng)居多比如聯(lián)想集團(tuán)繼“普慧算力”之后，提出“人本智能”理念，智能不是取代人，而是應(yīng)該以人為本，服務(wù)于人，所以應(yīng)該發(fā)展“人人可用人人受益”的AI。
當(dāng)然這也是與其長(zhǎng)期以來(lái)的Smarter for All的理念一脈相承混合智能、企業(yè)智能幫助各行各業(yè)企業(yè)實(shí)現(xiàn)智能化而AI PC和AI手機(jī)將個(gè)人大模型、個(gè)人智能體帶給個(gè)人用戶，量身定制個(gè)性化的AI助理人本智能，個(gè)人認(rèn)為既是對(duì)人智關(guān)系的長(zhǎng)遠(yuǎn)定義，也是對(duì)分布式、以人為中心的智能形態(tài)的理解。
中心化與分布式，既意味著力量分布，也意味著利益分布。毫無(wú)疑問(wèn)分布式對(duì)個(gè)人對(duì)用戶長(zhǎng)期更友好。