在上海世界人工智能大會的一場科學前沿的全體大會上，與會專家都關注到隱私保護和倫理的問題，以及機器學習算法的公平性。
在人工智能隱私保護方面，自動駕駛技術的安全隱私是最受關注的。馬斯克在大會上表示：“自動駕駛的發展趨勢不可阻擋，關鍵問題是安全性如何。這意味着你想要在99.99%後面再加上幾個9，才能被接受。”
馬斯克表示，儘管自動駕駛技術在硬件上已經很大程度上準備好了，但是仍然有很多軟件的細節需要完善和提升，從而防止出現可能的安全問題。
對此，自動駕駛領域專家、悉尼科技大學副校長張成奇教授認為，自動駕駛技術是人工智能落地時，隱私問題暴露最為明顯的應用。“自動駕駛的研究有三個方面，第一是單車的研究，第二是多車的協同調度，第三個方面非常重要，就是怎樣來防止黑客劫持你的自動駕駛車輛，如果你的車被劫持了，你自己根本控制不了，這種情況下危險就很大了，這就是技術的雙刃劍。”
他認為，需要考慮有沒有黑客用自動駕駛的技術，製造遠程的武器。他還提到，除了技術問題之外，人工智能的落地還需要得到法律的支持。“我覺得需要和心理學、社會學、法學等多個領域進行交叉合作。”張成奇教授表示。
張成奇教授同時指出，儘管機器學習和隱私保護確實存在很大的實際矛盾，但已經有研究表明，像聯盟學習這樣的方式既能保護隱私，又能提高技術。
除此之外，機器學習建模時數據的偏向性也可能影響人工智能的決策。中科院院士、計算機軟件專家何積豐在大會上強調了這一問題。
何積豐院士表示：“基於帶有偏向性的數據所得出的數學模型，在實際做決策的時候，會有些不公平的東西，所以機器學習算法的公平性倍受關注，這是我們接下來需要討論的問題。”
何積豐院士一直是人工智能網絡安全的倡導者。去年的上海世界人工智能大會上，他就對第一財經記者表示：“人工智能要做高產值很容易，理論上一部分信息通信技術（ICT）行業的產值也可以算到人工智能領域。但要真正打造人工智能高地，讓人工智能服務於我們的社會經濟，還有很多工作要做。”
他認為，目前人工智能已經發展成為新一代的人工智能，這將對安全性帶來更高的挑戰。“人們遇到了很多以前沒有碰到過的問題，值得引起重視。”何積豐院士表示，“但我們很欣慰地看到，在各方的呼籲下，人工智能的安全受到了更高的關注度。”
何積豐院士還提倡將智能家居作為人工智能的一個理想的入口，為人工智能提供試錯的環境，把生態建起來，因為這種試錯的成本比較低。
對此，科大訊飛董事長劉慶峯在上海世界人工智能大會的一場產業發展全體大會上表示：“我們在講人工智能倫理，最重要的就是保護，隱私保護當中，不光是法律的問題，也要給用户更多的選擇權。”
他表示，科大訊飛已經支持了科技芯片，還與海爾合作了一個純離線的家庭音響，不聯網，充分保護用户隱私。
“這得益於算法的持續優化，同時對算法的運算能耗進行大幅裁減，使得更多低端芯片上可以在離線的時候滿足用户的各種使用需求。”劉慶峯説道。