當前，新一代人工智能技術(shù)正加速應用到政治、經(jīng)濟、社會(huì )等領(lǐng)域的方方面面，在推動(dòng)經(jīng)濟社會(huì )更加高效智能運行的同時(shí)，也產(chǎn)生了復雜多元的倫理法律問(wèn)題。比如，人們開(kāi)始遭遇“大數據殺熟”“信息繭房”等新形式的不公、偏見(jiàn)或歧視，人臉識別引發(fā)道德倫理?yè)鷳n(yōu)，自動(dòng)駕駛產(chǎn)生決策倫理問(wèn)題，智能音箱等智能助手等的滲透也可能深刻改變傳統的人際關(guān)系。
中國在新一輪人工智能浪潮伊始，國家就高度重視人工智能倫理與法規問(wèn)題，將建立健全保障人工智能發(fā)展的法律法規和制度體系作為國家人工智能規劃的重點(diǎn)任務(wù)。2017年國家發(fā)布的《新一代人工智能發(fā)展規劃》明確提出，要加強人工智能相關(guān)法律、倫理和社會(huì )問(wèn)題研究，建立保障人工智能健康發(fā)展的法律法規和倫理道德框架。2019年6月，國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，提出了人工智能治理的框架和行動(dòng)指南，為我國國內各相關(guān)主體開(kāi)展人工智能治理，提供了原則性指導。在規劃實(shí)施層面，北京、上海、濟南、天津、重慶等已批復的13個(gè)國家新一代人工智能創(chuàng )新發(fā)展試驗區，正在深入探索引領(lǐng)人工智能健康發(fā)展的治理規則。
2020年12月23日，十三屆全國政協(xié)第45次雙周協(xié)商座談會(huì )在北京召開(kāi)，中共中央政治局常委、全國政協(xié)主席汪洋主持會(huì )議。會(huì )議圍繞“人工智能發(fā)展中的科技倫理與法律問(wèn)題”協(xié)商議政。汪洋強調，要深入學(xué)習領(lǐng)會(huì )習近平總書(shū)記關(guān)于推動(dòng)人工智能健康發(fā)展的重要論述，牢牢把握人工智能對建設科技強國和實(shí)施創(chuàng )新驅動(dòng)發(fā)展戰略的重大機遇，歷史、辯證、全面看待人工智能發(fā)展中的科技倫理與法律問(wèn)題，堅持統籌發(fā)展和安全的原則，探索構建符合中國國情的人工智能治理框架，維護人民利益和國家安全。
神思電子作為濟南市本土企業(yè)，依托在身份識別以及人工智能領(lǐng)域多年的積累，已經(jīng)取得了諸多先進(jìn)技術(shù)成果，在行業(yè)內具備了一定的影響力。濟南市作為山東省中心城市，在人工智能工作方面已走在全國前列，與上海、深圳共同成為全國三家同時(shí)建設國家新一代人工智能創(chuàng )新發(fā)展試驗區、人工智能創(chuàng )新應用先導區的城市。在山東省集中優(yōu)勢資源，大力支持濟南建設國家新一代人工智能創(chuàng )新發(fā)展試驗區和國家級人工智能創(chuàng )新應用先導區的政策引導下，神思電子在繼續遵循“以人為本，科技創(chuàng )新”、“品質(zhì)是金，服務(wù)至上”、“換位思考，合作共贏(yíng)”的經(jīng)營(yíng)理念基礎上，發(fā)布《神思人工智能研發(fā)與應用準則》（以下簡(jiǎn)稱(chēng)《準則》），以更高的自律要求，履行企業(yè)責任，以身示范，推動(dòng)人工智能技術(shù)與應用的健康發(fā)展?！稖蕜t》圍繞“有益、尊重、責任、公平、可知、安全、輔助、協(xié)同”八大方面，對人工智能健康有序發(fā)展作出明確規范。下一步，神思電子將在濟南市科技局統籌推進(jìn)國家試驗區建設過(guò)程中，作為典型人工智能企業(yè)，進(jìn)一步發(fā)揮技術(shù)優(yōu)勢，承擔國家新一代人工智能創(chuàng )新發(fā)展試驗區人工智能社會(huì )實(shí)驗建設，并堅持《準則》內容，確保人工智能能夠在可控、安全、有序范圍內健康持續發(fā)展。
神思電子技術(shù)股份有限公司（SZ:300479）是濟南市第一家創(chuàng )業(yè)板上市公司，2015年登陸資本市場(chǎng)，是國內領(lǐng)先的身份識別解決方案的提供商和服務(wù)商，山東省新一代信息技術(shù)領(lǐng)軍企業(yè)，目前市值近30億元?，F有員工總人數633人（研發(fā)人員占比61%），在北京、天津、福州設有分支機構，現有七個(gè)省級研發(fā)平臺，近三年獲得發(fā)改、工信、科技部門(mén)省部級重點(diǎn)研發(fā)計劃、重大工程支持項目12項，近四年研發(fā)/營(yíng)業(yè)額占比均超過(guò)12%。神思電子現有授權專(zhuān)利139項（發(fā)明專(zhuān)利44項），受理中發(fā)明專(zhuān)利79項，現有軟著(zhù)322項，其中人工智能相關(guān)授權專(zhuān)利66項（發(fā)明專(zhuān)利31項），受理中發(fā)明專(zhuān)利79項，軟著(zhù)118項。在標準引領(lǐng)方面，神思電子是全國信標委人工智能分委會(huì )委員單位以及山東省人工智能標準化技術(shù)委員會(huì )副主任委員單位。
神思電子的身份識別產(chǎn)品遍布中國大陸所有省份，每六臺身份識別設備就有至少一臺是神思電子的產(chǎn)品。2016年神思電子確定“從身份識別到智能認知”的戰略發(fā)展目標后，經(jīng)過(guò)四年的不懈努力和持續高強度研發(fā)投入，初步完成了從身份識別設備供應商向人工智能解決方案提供商的戰略升級。公司研發(fā)的視頻分析技術(shù)，基于神思云腦的智慧營(yíng)業(yè)廳、智慧餐飲、智慧園區、人工智能教室等人工智能云服務(wù)方案及多項AI產(chǎn)品已進(jìn)入商用復制階段。
作為山東省人工智能協(xié)會(huì )副會(huì )長(cháng)及濟南市智能創(chuàng )新產(chǎn)業(yè)發(fā)展學(xué)會(huì )發(fā)起人/理事長(cháng)單位，神思電子在自身加速研究人工智能技術(shù)、拓展應用場(chǎng)景的同時(shí)，也肩負著(zhù)合理應用這項新技術(shù)的社會(huì )責任。在近年技術(shù)研究和應用場(chǎng)景落地的實(shí)踐經(jīng)驗基礎上，研究形成《神思人工智能研發(fā)與應用準則》。借此，不僅能更好地規范企業(yè)內部人工智能技術(shù)研發(fā)和應用行為，也能夠對山東省內從事人工智能相關(guān)技術(shù)研究和應用的企業(yè)與科研機構產(chǎn)生示范作用，引領(lǐng)和帶動(dòng)其使用更加嚴格的原則和標準來(lái)規范人工智能技術(shù)產(chǎn)品研發(fā)與應用行為，促進(jìn)科技向善。
以下為《準則》全文：
《神思人工智能研發(fā)與應用準則》
為踐行國家促進(jìn)人工智能健康發(fā)展的主旨精神，回應社會(huì )各界有關(guān)人工智能企業(yè)的倫理關(guān)切，神思電子以“有益”和“尊重”為目標和價(jià)值導向，堅持打造“負責任”“公平”“可知”和“安全”的人工智能產(chǎn)品與服務(wù)，實(shí)現對人類(lèi)的智能輔助，促進(jìn)人機協(xié)同的智能社會(huì )。為此，神思電子在人工智能技術(shù)的研發(fā)與應用中遵循如下八項準則：
（1）有益：始終遵循需求導向，以滿(mǎn)足數字時(shí)代的生產(chǎn)生活服務(wù)需求為目標，為客戶(hù)及其他利益相關(guān)主體創(chuàng )造對社會(huì )產(chǎn)生積極影響的人工智能產(chǎn)品或服務(wù)，促進(jìn)人的全面發(fā)展、經(jīng)濟社會(huì )進(jìn)步和生態(tài)可持續。
（2）尊重：應充分尊重人的尊嚴，尤其要重視維護老幼殘弱等特殊群體的尊嚴與特殊權利。尊重并保障個(gè)人隱私，為用戶(hù)行使知情同意等權利提供技術(shù)便利與支持。尊重人類(lèi)選擇自由，為用戶(hù)自由選擇接受或拒絕人工智能服務(wù)提供簡(jiǎn)便易懂、反應敏捷的操作界面，促進(jìn)人機協(xié)同。
（3）責任：應以踐行道德責任和社會(huì )責任為前提，遵守人類(lèi)價(jià)值觀(guān)和倫理道德，強調技術(shù)解決方案對用戶(hù)、對社會(huì )、對資源環(huán)境的責任擔當，努力實(shí)現責任可回溯，保障用戶(hù)合法權益、增進(jìn)社會(huì )安定和諧、確保資源節約和環(huán)境友好。
（4）公平：應以積極的方式輔助人類(lèi)，考慮客戶(hù)的年齡、性別、民族、宗教等亞種群多樣性，在設計、實(shí)施、測試和應用的所有階段，應將公平和平等原則嵌入到數據集和算法中，促進(jìn)公平和多樣性。積極推動(dòng)并參與人工智能知識科普活動(dòng)，提升全社會(huì )的人工智能認知，讓公眾獲得對人工智能產(chǎn)品和服務(wù)的平等使用權，促進(jìn)公平公正氛圍和環(huán)境的形成。
（5）可知：應開(kāi)發(fā)透明、可解釋、可理解的人工智能系統，對于系統的算法決策邏輯、數據構成、系統開(kāi)發(fā)者和技術(shù)實(shí)施者意圖及行為結果等，能夠準確描述、監督和再現，不用高深的專(zhuān)業(yè)術(shù)語(yǔ)來(lái)包裝產(chǎn)品方案和技術(shù)，通過(guò)功能設計促進(jìn)服務(wù)對象參與選擇和反饋，讓服務(wù)對象理解人工智能基本工作原理和邏輯。
（6）安全： 努力實(shí)現人工智能系統內部安全和外部安全的統一。嚴格控制數據質(zhì)量，嚴謹算法體系，訓練和學(xué)習平臺應該建立在可靠的信息安全架構下，能夠持續優(yōu)化和改進(jìn)，并且獲得專(zhuān)業(yè)機構的評估和認可，確保人工智能系統的魯棒性和可靠性。完善數據管理規范和風(fēng)險防控體系，促進(jìn)可審核和可驗證的人工智能系統開(kāi)發(fā)，確保信息和數據安全。
（7）輔助：人工智能系統的功能應聚焦于智能輔助，助力人類(lèi)體力解放、智力增強和精神放松，拓展人類(lèi)能力和創(chuàng )造性，應盡力防止人類(lèi)過(guò)度依賴(lài)人工智能，并允許人類(lèi)自主判斷和選擇如何使用或退出智能輔助模式。
（8）協(xié)同： 人工智能時(shí)代的人和機器的關(guān)系不是非此即彼， 應是通過(guò)不斷的人機互動(dòng)實(shí)現人機協(xié)關(guān)系同。為此，應開(kāi)發(fā)界面友好，便于人機交互和模式切換的人工智能系統。
