5分11选5开户_5分11选5网址_5分11选5平台

5分11选5注册:《大咖隨辯》第二期

本期論題:人工智能「算法公開」能否解決「算法歧視」?

主持人:張浩 賽迪智庫政策法規研究所高級研究員
             北京郵電大學網絡法學碩士

嘉 賓:鄭志峰 西南政法大學老師

  欒群 賽迪研究院政法所所長

人工智能的研究和產業化進程方興未艾,算法歧視也被學者和業界廣為關注,算法公開成為呼聲較高的解決良方。賽迪智庫政策法規研究所認為,算法公開並不能根治算法歧視現象,且有一定的副作用。在具體實踐中,數據比算法本身更容易導致歧視性後果的出現。雖然無法從根本上避免算法歧視,但可以通過針對不同要素的事前、事中或事後審查加以控制。

  • 欒群
  • 鄭志峰
  • 當前算法歧視問題有些什麼體現?

    數據、算法、算力共同使得人工智能發展。這種算法偏差和算法歧視問題的出現后,研究人員認為算法公開是治本之道,分歧點在於算法公開能否解決問題,這是一個爭議。

  • 話題二:什麼造成了算法歧視?

    我認為問題是數據,造成不好結果的問題是多個原因的。根本原因是算法是一種技術,從技術中立來看無所謂好壞,它是現實社會的映射。算法歧視不是本質原因,根本原因是數據。從幾個層次來看,第一個方面,數據本身不全面,不是完整的數據;另一個方面,數據帶有一定的可替代性,要達到一定的結果,通過這樣的數據可以達到這一結果,另一些數據也可能達到同樣的結果。數據本身和數據方法的強相關程度不一樣。

  • 話題三:如何解決算法歧視問題,是否應該算法公開?

    我的觀點不是否定算法公開的作用,但是算法公開的效果需要思考。有五個方面的建議。一,算法公開的邏輯,對於普通人而言沒有能力鑒別算法是不是造成了歧視的;二,算法帶有一定的時效性,人工智能系統的長處在於可以不斷學習,信息技術發展快,人員變化也快,出於機器學習的結果,或者基於優化的結果,可能在最後經過迭代以後,算法已經不太一樣了。公開可能意義可能就不大了。第三,技術中立,作為一項技術的算法來說無所謂善惡;第四個問題是考慮到算法,算法是不申請專利的,它是一種商業機密,如果是強制要求,要求公司公開算法,是違背現有商業邏輯和公司法以及知識產權法的一般規定。從長遠來看,這不是商業化的操作方式;第五,一旦公開之後就不可控了,可能會有一些別有用心的人利用算法進行一些不法事件。

  • 話題四:還有沒有其他方式解決問題?

    我反對的不是算法公開的作用,算法公開是不是能完全解決問題有爭議。算法公開的對象和範圍核心點是個問題。法律上有一個基本邏輯,要守法的第一步是公開,算法和國家法不一樣的是國家法是針對所有人的公共行為,而企業是私主體,如果讓企業公開自己的商業秘密行為,是不公平的;第二,讓某些人知道算法公開,對公司會造成的損失,但是難以形成合理的補償機制,這是一個不得不考慮的問題。另外一個,定期持續公開的問題,在我看來對於企業來說是一個巨大的負擔,由誰定期的公開也是一個問題。

  • 話題五:應該如何徹底解決算法公開的問題?

    在對策方面,我認同綜合治理的觀點,算法是一個系統性的事情,在數據、算法、算力等方面都要完善。實際上我認為,算法歧視是人類社會中帶個人偏見的映射,歧視是不可能百分之百的杜絕的,通過系統綜合的治理,儘可能的引導處理事情。在公開上,要把握好公開的時間和範圍,還是以個案的處理方式為好,提到一般數據保護法的問題,我有不同的觀點,我認為對於算法公開的時間點,以個案形式來處理比較好。而不是以強制性的統一立法的方式來處理。

  • 話題一:當前算法歧視問題有些什麼體現?

    人工智能形成了重大影響,人工智能引起更多注意的是人工智能的顯性產品,但實際上很多隱形的東西如算法造成的影響更大。算法在帶來好處的同時也引起了很多問題。比如在美國發生的黑人標註問題顯然是歧視問題。

  • 話題二:什麼造成了算法歧視?

    欒所長認為是數據帶來偏差,我認為是算法本身的問題。算法是算法歧視的重要原因。

  • 話題三:如何解決算法歧視問題,是否應該算法公開?

    算法本身是算法歧視的原因,算法公開肯定是有用處的。算法很重要,但是根本原因是數據。欒所長認為,人工智能是打面機,我認為人工智能可能就像小孩子,同樣的養料,但是長大了在各方面可能都會有一定的差異。人工智能就是如此,同樣的數據可能算法不同而造成了結果的不同。如果公開算法,就可以承擔責任,因此公開算法有一定作用。

  • 話題四:還有沒有其他方式解決問題?

    欒群所長提出的五種缺陷我不完全同意,我可以進行如下回復。首先對於專業性強的問題不是要每個人都知道,公開可以起到監督的作用;第二,算法具有一定的時效性,是一次性公開還是持續性公開的問題,要不斷地公開;第三,算法中立的問題,同樣的數據面對不同算法是不一樣的,數據也是中立的;第四個,現有的算法作為商業秘密來保護,但是知識產權是為了商業秘密的保護問題,知識產權也可以保護知識產權,而且也可以保護公司的名譽,比如今日頭條就公開過算法的邏輯;第五個,信息公開的確實具有共同的缺陷,可能有壞人利用,但是也會有相應力量遏制。

  • 話題五:應該如何徹底解決算法公開的問題?

    歧視問題是一個無法根治的問題,對於算法進行綜合治理,包括法律、技術等多方面來治理。個人覺得比較重要的是要完善個人信息保護和數據的應用。數據是一個一體兩面的問題。算法和個人信息保護有着很大的關係,可以參照歐盟的數據保護法,對於一些敏感的信息不能夠進行自動化決策。

欒群 賽迪智庫政策法規所所長

2011年7月中國政法大學民商法學博士畢業,2012年-2014年9月,在工業和信息化部規劃司借調。2014年10月至今,任賽迪智庫政策法規研究所副所長、所長。

  • 話題一:當前算法歧視問題有些什麼體現?

    數據、算法、算力共同使得人工智能發展。這種算法偏差和算法歧視問題的出現后,研究人員認為算法公開是治本之道,分歧點在於算法公開能否解決問題,這是一個爭議。

  • 話題二:什麼造成了算法歧視?

    我認為問題是數據,造成不好結果的問題是多個原因的。根本原因是算法是一種技術,從技術中立來看無所謂好壞,它是現實社會的映射。算法歧視不是本質原因,根本原因是數據。從幾個層次來看,第一個方面,數據本身不全面,不是完整的數據;另一個方面,數據帶有一定的可替代性,要達到一定的結果,通過這樣的數據可以達到這一結果,另一些數據也可能達到同樣的結果。數據本身和數據方法的強相關程度不一樣。

  • 話題三:如何解決算法歧視問題,是否應該算法公開?

    我的觀點不是否定算法公開的作用,但是算法公開的效果需要思考。有五個方面的建議。一,算法公開的邏輯,對於普通人而言沒有能力鑒別算法是不是造成了歧視的;二,算法帶有一定的時效性,人工智能系統的長處在於可以不斷學習,信息技術發展快,人員變化也快,出於機器學習的結果,或者基於優化的結果,可能在最後經過迭代以後,算法已經不太一樣了。公開可能意義可能就不大了。第三,技術中立,作為一項技術的算法來說無所謂善惡;第四個問題是考慮到算法,算法是不申請專利的,它是一種商業機密,如果是強制要求,要求公司公開算法,是違背現有商業邏輯和公司法以及知識產權法的一般規定。從長遠來看,這不是商業化的操作方式;第五,一旦公開之後就不可控了,可能會有一些別有用心的人利用算法進行一些不法事件。

  • 話題四:還有沒有其他方式解決問題?

    我反對的不是算法公開的作用,算法公開是不是能完全解決問題有爭議。算法公開的對象和範圍核心點是個問題。法律上有一個基本邏輯,要守法的第一步是公開,算法和國家法不一樣的是國家法是針對所有人的公共行為,而企業是私主體,如果讓企業公開自己的商業秘密行為,是不公平的;第二,讓某些人知道算法公開,對公司會造成的損失,但是難以形成合理的補償機制,這是一個不得不考慮的問題。另外一個,定期持續公開的問題,在我看來對於企業來說是一個巨大的負擔,由誰定期的公開也是一個問題。

  • 話題五:應該如何徹底解決算法公開的問題?

    在對策方面,我認同綜合治理的觀點,算法是一個系統性的事情,在數據、算法、算力等方面都要完善。實際上我認為,算法歧視是人類社會中帶個人偏見的映射,歧視是不可能百分之百的杜絕的,通過系統綜合的治理,儘可能的引導處理事情。在公開上,要把握好公開的時間和範圍,還是以個案的處理方式為好,提到一般數據保護法的問題,我有不同的觀點,我認為對於算法公開的時間點,以個案形式來處理比較好。而不是以強制性的統一立法的方式來處理。

鄭志峰 西南政法大學民商法學院博士、講師

西南政法大學自動駕駛法律研究中心主任,重慶市自動駕駛道路測試專家管理委員會執行委員,百度公共政策研究院高級研究員。

  • 話題一:當前算法歧視問題有些什麼體現?

    人工智能形成了重大影響,人工智能引起更多注意的是人工智能的顯性產品,但實際上很多隱形的東西如算法造成的影響更大。算法在帶來好處的同時也引起了很多問題。比如在美國發生的黑人標註問題顯然是歧視問題。

  • 話題二:什麼造成了算法歧視?

    欒所長認為是數據帶來偏差,我認為是算法本身的問題。算法是算法歧視的重要原因。

  • 話題三:如何解決算法歧視問題,是否應該算法公開?

    算法本身是算法歧視的原因,算法公開肯定是有用處的。算法很重要,但是根本原因是數據。欒所長認為,人工智能是打面機,我認為人工智能可能就像小孩子,同樣的養料,但是長大了在各方面可能都會有一定的差異。人工智能就是如此,同樣的數據可能算法不同而造成了結果的不同。如果公開算法,就可以承擔責任,因此公開算法有一定作用。

  • 話題四:還有沒有其他方式解決問題?

    欒群所長提出的五種缺陷我不完全同意,我可以進行如下回復。首先對於專業性強的問題不是要每個人都知道,公開可以起到監督的作用;第二,算法具有一定的時效性,是一次性公開還是持續性公開的問題,要不斷地公開;第三,算法中立的問題,同樣的數據面對不同算法是不一樣的,數據也是中立的;第四個,現有的算法作為商業秘密來保護,但是知識產權是為了商業秘密的保護問題,知識產權也可以保護知識產權,而且也可以保護公司的名譽,比如今日頭條就公開過算法的邏輯;第五個,信息公開的確實具有共同的缺陷,可能有壞人利用,但是也會有相應力量遏制。

  • 話題五:應該如何徹底解決算法公開的問題?

    歧視問題是一個無法根治的問題,對於算法進行綜合治理,包括法律、技術等多方面來治理。個人覺得比較重要的是要完善個人信息保護和數據的應用。數據是一個一體兩面的問題。算法和個人信息保護有着很大的關係,可以參照歐盟的數據保護法,對於一些敏感的信息不能夠進行自動化決策。

聯繫方式:

聯繫電話:010-88558935

郵箱:xupy@staff.buenozapatillas.com

本期出品方:

賽迪研究院政法所

賽迪網

  • 賽迪網

  • 賽迪研究院政法所

返回首页