當(dāng)前，新一代人工智能技術(shù)正加速應(yīng)用到政治、經(jīng)濟(jì)、社會(huì)等領(lǐng)域的方方面面，在推動(dòng)經(jīng)濟(jì)社會(huì)更加高效智能運(yùn)行的同時(shí)，也產(chǎn)生了復(fù)雜多元的倫理法律問(wèn)題。比如，人們開始遭遇“大數(shù)據(jù)殺熟”“信息繭房”等新形式的不公、偏見或歧視，人臉識(shí)別引發(fā)道德倫理?yè)?dān)憂，自動(dòng)駕駛產(chǎn)生決策倫理問(wèn)題，智能音箱等智能助手等的滲透也可能深刻改變傳統(tǒng)的人際關(guān)系。
中國(guó)在新一輪人工智能浪潮伊始，國(guó)家就高度重視人工智能倫理與法規(guī)問(wèn)題，將建立健全保障人工智能發(fā)展的法律法規(guī)和制度體系作為國(guó)家人工智能規(guī)劃的重點(diǎn)任務(wù)。2017年國(guó)家發(fā)布的《新一代人工智能發(fā)展規(guī)劃》明確提出，要加強(qiáng)人工智能相關(guān)法律、倫理和社會(huì)問(wèn)題研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架。2019年6月，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能治理的框架和行動(dòng)指南，為我國(guó)國(guó)內(nèi)各相關(guān)主體開展人工智能治理，提供了原則性指導(dǎo)。在規(guī)劃實(shí)施層面，北京、上海、濟(jì)南、天津、重慶等已批復(fù)的13個(gè)國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)，正在深入探索引領(lǐng)人工智能健康發(fā)展的治理規(guī)則。
2020年12月23日，十三屆全國(guó)政協(xié)第45次雙周協(xié)商座談會(huì)在北京召開，中共中央政治局常委、全國(guó)政協(xié)主席汪洋主持會(huì)議。會(huì)議圍繞“人工智能發(fā)展中的科技倫理與法律問(wèn)題”協(xié)商議政。汪洋強(qiáng)調(diào)，要深入學(xué)習(xí)領(lǐng)會(huì)習(xí)近平總書記關(guān)于推動(dòng)人工智能健康發(fā)展的重要論述，牢牢把握人工智能對(duì)建設(shè)科技強(qiáng)國(guó)和實(shí)施創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略的重大機(jī)遇，歷史、辯證、全面看待人工智能發(fā)展中的科技倫理與法律問(wèn)題，堅(jiān)持統(tǒng)籌發(fā)展和安全的原則，探索構(gòu)建符合中國(guó)國(guó)情的人工智能治理框架，維護(hù)人民利益和國(guó)家安全。
神思電子作為濟(jì)南市本土企業(yè)，依托在身份識(shí)別以及人工智能領(lǐng)域多年的積累，已經(jīng)取得了諸多先進(jìn)技術(shù)成果，在行業(yè)內(nèi)具備了一定的影響力。濟(jì)南市作為山東省中心城市，在人工智能工作方面已走在全國(guó)前列，與上海、深圳共同成為全國(guó)三家同時(shí)建設(shè)國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)、人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)的城市。在山東省集中優(yōu)勢(shì)資源，大力支持濟(jì)南建設(shè)國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)和國(guó)家級(jí)人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)的政策引導(dǎo)下，神思電子在繼續(xù)遵循“以人為本，科技創(chuàng)新”、“品質(zhì)是金，服務(wù)至上”、“換位思考，合作共贏”的經(jīng)營(yíng)理念基礎(chǔ)上，發(fā)布《神思人工智能研發(fā)與應(yīng)用準(zhǔn)則》（以下簡(jiǎn)稱《準(zhǔn)則》），以更高的自律要求，履行企業(yè)責(zé)任，以身示范，推動(dòng)人工智能技術(shù)與應(yīng)用的健康發(fā)展?！稖?zhǔn)則》圍繞“有益、尊重、責(zé)任、公平、可知、安全、輔助、協(xié)同”八大方面，對(duì)人工智能健康有序發(fā)展作出明確規(guī)范。下一步，神思電子將在濟(jì)南市科技局統(tǒng)籌推進(jìn)國(guó)家試驗(yàn)區(qū)建設(shè)過(guò)程中，作為典型人工智能企業(yè)，進(jìn)一步發(fā)揮技術(shù)優(yōu)勢(shì)，承擔(dān)國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)人工智能社會(huì)實(shí)驗(yàn)建設(shè)，并堅(jiān)持《準(zhǔn)則》內(nèi)容，確保人工智能能夠在可控、安全、有序范圍內(nèi)健康持續(xù)發(fā)展。
神思電子技術(shù)股份有限公司（SZ:300479）是濟(jì)南市第一家創(chuàng)業(yè)板上市公司，2015年登陸資本市場(chǎng)，是國(guó)內(nèi)領(lǐng)先的身份識(shí)別解決方案的提供商和服務(wù)商，山東省新一代信息技術(shù)領(lǐng)軍企業(yè)，目前市值近30億元?，F(xiàn)有員工總?cè)藬?shù)633人（研發(fā)人員占比61%），在北京、天津、福州設(shè)有分支機(jī)構(gòu)，現(xiàn)有七個(gè)省級(jí)研發(fā)平臺(tái)，近三年獲得發(fā)改、工信、科技部門省部級(jí)重點(diǎn)研發(fā)計(jì)劃、重大工程支持項(xiàng)目12項(xiàng)，近四年研發(fā)/營(yíng)業(yè)額占比均超過(guò)12%。神思電子現(xiàn)有授權(quán)專利139項(xiàng)（發(fā)明專利44項(xiàng)），受理中發(fā)明專利79項(xiàng)，現(xiàn)有軟著322項(xiàng)，其中人工智能相關(guān)授權(quán)專利66項(xiàng)（發(fā)明專利31項(xiàng)），受理中發(fā)明專利79項(xiàng)，軟著118項(xiàng)。在標(biāo)準(zhǔn)引領(lǐng)方面，神思電子是全國(guó)信標(biāo)委人工智能分委會(huì)委員單位以及山東省人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)副主任委員單位。
神思電子的身份識(shí)別產(chǎn)品遍布中國(guó)大陸所有省份，每六臺(tái)身份識(shí)別設(shè)備就有至少一臺(tái)是神思電子的產(chǎn)品。2016年神思電子確定“從身份識(shí)別到智能認(rèn)知”的戰(zhàn)略發(fā)展目標(biāo)后，經(jīng)過(guò)四年的不懈努力和持續(xù)高強(qiáng)度研發(fā)投入，初步完成了從身份識(shí)別設(shè)備供應(yīng)商向人工智能解決方案提供商的戰(zhàn)略升級(jí)。公司研發(fā)的視頻分析技術(shù)，基于神思云腦的智慧營(yíng)業(yè)廳、智慧餐飲、智慧園區(qū)、人工智能教室等人工智能云服務(wù)方案及多項(xiàng)AI產(chǎn)品已進(jìn)入商用復(fù)制階段。
作為山東省人工智能協(xié)會(huì)副會(huì)長(zhǎng)及濟(jì)南市智能創(chuàng)新產(chǎn)業(yè)發(fā)展學(xué)會(huì)發(fā)起人/理事長(zhǎng)單位，神思電子在自身加速研究人工智能技術(shù)、拓展應(yīng)用場(chǎng)景的同時(shí)，也肩負(fù)著合理應(yīng)用這項(xiàng)新技術(shù)的社會(huì)責(zé)任。在近年技術(shù)研究和應(yīng)用場(chǎng)景落地的實(shí)踐經(jīng)驗(yàn)基礎(chǔ)上，研究形成《神思人工智能研發(fā)與應(yīng)用準(zhǔn)則》。借此，不僅能更好地規(guī)范企業(yè)內(nèi)部人工智能技術(shù)研發(fā)和應(yīng)用行為，也能夠?qū)ι綎|省內(nèi)從事人工智能相關(guān)技術(shù)研究和應(yīng)用的企業(yè)與科研機(jī)構(gòu)產(chǎn)生示范作用，引領(lǐng)和帶動(dòng)其使用更加嚴(yán)格的原則和標(biāo)準(zhǔn)來(lái)規(guī)范人工智能技術(shù)產(chǎn)品研發(fā)與應(yīng)用行為，促進(jìn)科技向善。
以下為《準(zhǔn)則》全文：
《神思人工智能研發(fā)與應(yīng)用準(zhǔn)則》
為踐行國(guó)家促進(jìn)人工智能健康發(fā)展的主旨精神，回應(yīng)社會(huì)各界有關(guān)人工智能企業(yè)的倫理關(guān)切，神思電子以“有益”和“尊重”為目標(biāo)和價(jià)值導(dǎo)向，堅(jiān)持打造“負(fù)責(zé)任”“公平”“可知”和“安全”的人工智能產(chǎn)品與服務(wù)，實(shí)現(xiàn)對(duì)人類的智能輔助，促進(jìn)人機(jī)協(xié)同的智能社會(huì)。為此，神思電子在人工智能技術(shù)的研發(fā)與應(yīng)用中遵循如下八項(xiàng)準(zhǔn)則：
（1）有益：始終遵循需求導(dǎo)向，以滿足數(shù)字時(shí)代的生產(chǎn)生活服務(wù)需求為目標(biāo)，為客戶及其他利益相關(guān)主體創(chuàng)造對(duì)社會(huì)產(chǎn)生積極影響的人工智能產(chǎn)品或服務(wù)，促進(jìn)人的全面發(fā)展、經(jīng)濟(jì)社會(huì)進(jìn)步和生態(tài)可持續(xù)。
（2）尊重：應(yīng)充分尊重人的尊嚴(yán)，尤其要重視維護(hù)老幼殘弱等特殊群體的尊嚴(yán)與特殊權(quán)利。尊重并保障個(gè)人隱私，為用戶行使知情同意等權(quán)利提供技術(shù)便利與支持。尊重人類選擇自由，為用戶自由選擇接受或拒絕人工智能服務(wù)提供簡(jiǎn)便易懂、反應(yīng)敏捷的操作界面，促進(jìn)人機(jī)協(xié)同。
（3）責(zé)任：應(yīng)以踐行道德責(zé)任和社會(huì)責(zé)任為前提，遵守人類價(jià)值觀和倫理道德，強(qiáng)調(diào)技術(shù)解決方案對(duì)用戶、對(duì)社會(huì)、對(duì)資源環(huán)境的責(zé)任擔(dān)當(dāng)，努力實(shí)現(xiàn)責(zé)任可回溯，保障用戶合法權(quán)益、增進(jìn)社會(huì)安定和諧、確保資源節(jié)約和環(huán)境友好。
（4）公平：應(yīng)以積極的方式輔助人類，考慮客戶的年齡、性別、民族、宗教等亞種群多樣性，在設(shè)計(jì)、實(shí)施、測(cè)試和應(yīng)用的所有階段，應(yīng)將公平和平等原則嵌入到數(shù)據(jù)集和算法中，促進(jìn)公平和多樣性。積極推動(dòng)并參與人工智能知識(shí)科普活動(dòng)，提升全社會(huì)的人工智能認(rèn)知，讓公眾獲得對(duì)人工智能產(chǎn)品和服務(wù)的平等使用權(quán)，促進(jìn)公平公正氛圍和環(huán)境的形成。
（5）可知：應(yīng)開發(fā)透明、可解釋、可理解的人工智能系統(tǒng)，對(duì)于系統(tǒng)的算法決策邏輯、數(shù)據(jù)構(gòu)成、系統(tǒng)開發(fā)者和技術(shù)實(shí)施者意圖及行為結(jié)果等，能夠準(zhǔn)確描述、監(jiān)督和再現(xiàn)，不用高深的專業(yè)術(shù)語(yǔ)來(lái)包裝產(chǎn)品方案和技術(shù)，通過(guò)功能設(shè)計(jì)促進(jìn)服務(wù)對(duì)象參與選擇和反饋，讓服務(wù)對(duì)象理解人工智能基本工作原理和邏輯。
（6）安全： 努力實(shí)現(xiàn)人工智能系統(tǒng)內(nèi)部安全和外部安全的統(tǒng)一。嚴(yán)格控制數(shù)據(jù)質(zhì)量，嚴(yán)謹(jǐn)算法體系，訓(xùn)練和學(xué)習(xí)平臺(tái)應(yīng)該建立在可靠的信息安全架構(gòu)下，能夠持續(xù)優(yōu)化和改進(jìn)，并且獲得專業(yè)機(jī)構(gòu)的評(píng)估和認(rèn)可，確保人工智能系統(tǒng)的魯棒性和可靠性。完善數(shù)據(jù)管理規(guī)范和風(fēng)險(xiǎn)防控體系，促進(jìn)可審核和可驗(yàn)證的人工智能系統(tǒng)開發(fā)，確保信息和數(shù)據(jù)安全。
（7）輔助：人工智能系統(tǒng)的功能應(yīng)聚焦于智能輔助，助力人類體力解放、智力增強(qiáng)和精神放松，拓展人類能力和創(chuàng)造性，應(yīng)盡力防止人類過(guò)度依賴人工智能，并允許人類自主判斷和選擇如何使用或退出智能輔助模式。
（8）協(xié)同： 人工智能時(shí)代的人和機(jī)器的關(guān)系不是非此即彼， 應(yīng)是通過(guò)不斷的人機(jī)互動(dòng)實(shí)現(xiàn)人機(jī)協(xié)關(guān)系同。為此，應(yīng)開發(fā)界面友好，便于人機(jī)交互和模式切換的人工智能系統(tǒng)。
