據(jù)顯示，2021年人工智能核心產(chǎn)業(yè)規(guī)模預(yù)計達(dá)到1998億元，2026年將超過6000億元。但是，問題也隨之而來。

全國政協(xié)委員、重慶理工大學(xué)校長杜惠平介紹，受限于人工智能技術(shù)及其應(yīng)用領(lǐng)域中的各利益相關(guān)方，如研發(fā)者、使用者、受用者和管理者等各方，他們的各自技術(shù)理解水平及風(fēng)險把控能力等的差異，往往出現(xiàn)階段性短視而增大風(fēng)險防范難度，造成對他們自身及經(jīng)濟(jì)社會長遠(yuǎn)發(fā)展的不利影響。

今年全國兩會期間，杜惠平提出了這方面的提案。他表示，目前人工智能技術(shù)在數(shù)據(jù)方面存在技術(shù)濫用與外部入侵兩大風(fēng)險，最重要的是，在法律層面的責(zé)任認(rèn)定，還是空白。

杜惠平舉例稱，在數(shù)據(jù)方面，涉及到個人及其經(jīng)濟(jì)、社會活動等相關(guān)算法的訓(xùn)練過程中，個人的身份、財產(chǎn)、地址等身份信息，以及筆跡、走路形態(tài)等行為信息，都將成為訓(xùn)練數(shù)據(jù)的來源。在市場上無企業(yè)準(zhǔn)入限制的情況下，大量個人信息面臨被濫用的可能。

除了數(shù)據(jù)技術(shù)方面的問題，現(xiàn)行法律法規(guī)，沒有明確界定人工智能的設(shè)計、制造、消費、使用等各個環(huán)節(jié)的主體責(zé)任與義務(wù)。杜惠平舉例說，自動駕駛汽車決策錯誤導(dǎo)致人員傷亡，智能醫(yī)療助理給出錯誤醫(yī)療建議導(dǎo)致患者病情加重，這些責(zé)任如何劃分？

因此，杜惠平建議，針對技術(shù)層面的問題，國家應(yīng)提高人工智能行業(yè)的準(zhǔn)入門檻，不僅要篩選出具備相關(guān)安全風(fēng)險機(jī)理認(rèn)知和風(fēng)險防御技術(shù)能力的公司，更要確保人工智能企業(yè)在應(yīng)用產(chǎn)品時合法合規(guī)、可靠可控、數(shù)據(jù)安全可信，以及人工智能應(yīng)用于社會治理時的決策公平公正。還要加強(qiáng)人工智能過程性數(shù)據(jù)安全監(jiān)管，并及時對人工智能安全風(fēng)險進(jìn)行監(jiān)控，在進(jìn)行全過程掃描后能夠有效識別其風(fēng)險點、威脅點和脆弱點，構(gòu)建安全風(fēng)險數(shù)據(jù)庫，及時追蹤發(fā)現(xiàn)隱患。

針對法律責(zé)任劃分方面的問題，杜惠平還提交了一份關(guān)于完善自動駕駛保險和事故賠償政策法規(guī)的提案。他建議，法律層面要健全自動駕駛機(jī)動車侵權(quán)責(zé)任制度，保險層面建立自動駕駛機(jī)動車保險賠付制度，還要設(shè)定自動駕駛機(jī)動車事故責(zé)任認(rèn)定標(biāo)準(zhǔn)和流程，完善自動駕駛汽車生產(chǎn)許可與質(zhì)量管理制度。只有基礎(chǔ)工作完成，自動駕駛技術(shù)才有可能繼續(xù)發(fā)展，自動駕駛機(jī)動車才有可能市場化。