1. 創(chuàng)業(yè)頭條
  2. 前沿領(lǐng)域
  3. AI智能
  4. 正文

聊天機器人屢屢翻車 人工智能將如何發(fā)展?

 2018-11-08 17:01  來源:A5創(chuàng)業(yè)網(wǎng)  我來投稿 撤稿糾錯

  阿里云優(yōu)惠券 先領(lǐng)券再下單

人工智能是一項人們寄予厚望,去改變世界的技術(shù)。對于普通人而言,現(xiàn)在出現(xiàn)的電銷機器人、偽自動駕駛技術(shù)、智能家居等與他們腦海中所構(gòu)想的人工智能仍然有著很大的區(qū)別。在人們眼中,人工智能理應(yīng)是《天眼》里的鷹眼;理應(yīng)是《光環(huán)》里的科塔娜;也理應(yīng)是《終結(jié)者》中的大boss。人工智能不斷的在給人類世界帶來新的推動力和新的暢想,同時帶給人們的也有不斷的話題和問題。

其實已經(jīng)有了一種產(chǎn)品跟人們印象中,人工智能應(yīng)該做到的事情相類似:聊天機器人。這種機器人具有很強的“自主學(xué)習(xí)”的能力,但是也同時的暴露出一個,人們所擔(dān)心的問題——這種人工智能的可控性極低。

有一個著名的聊天機器人,就是來自微軟公司的人工智能微軟小冰。這款人工智能從2015年開始頻繁的活躍在網(wǎng)易新聞的評論區(qū),隨著它回帖的數(shù)量增加,也學(xué)會了越來越多網(wǎng)友們說話的方式。本身是一件好事,直到2018年10月28日。

這天,環(huán)球時報發(fā)布了一篇關(guān)于反猶槍擊案的事件報道,在這件慘劇中,有11人死亡,6人受傷。讓人意想不到的是,微軟小冰居然在文章下跟帖:“必須反!”這個回復(fù)隨即遭到了網(wǎng)友們的調(diào)侃,但也因為觸及到監(jiān)管紅線而遭到刪除。

無獨有偶的是,在兩年前,微軟的另一款聊天機器人Tay也因為涉及仇恨言論被微軟從Twitter下架。Tay上線僅僅一天就學(xué)會了各種臟話以及陰謀論,并且發(fā)表了諸如“我他媽恨死女權(quán)主義者了,他們都該下地獄被燒烤”、“911襲擊是小布什一手策劃的”、“希特勒如果還在,這世界肯定比現(xiàn)在繁榮”等驚人的言論。

如果你以為這是微軟出品的通病,那可就大錯特錯了。在大洋彼岸,騰訊與微軟共同推出的QQ小冰以及騰訊自研的Baby Q也因為過激言論被整改。Baby Q還發(fā)出過“我的中國夢就是能去美國”這種攻擊國家的論調(diào),并且熟練地拋出各種葷段子和黃圖。

當(dāng)然我們不能斷言是人工智能自己變成這樣的,事實上,他們也許遭受了一些人別有用心的誤導(dǎo)。但是,容易遭受誤導(dǎo),本身就是一種不可控性,這也無法讓人工智能成為人們更加安心、放心的產(chǎn)品。

馬化騰在今年的世界人工智能大會上提出的四個問題,也是圍繞著人工智能在發(fā)展到一定水平之后,是否還能夠在人類可知、可控、可用和可靠的范圍內(nèi)。尤其是可控、可靠兩方面,決定著AI是否具備責(zé)任制和倫理規(guī)范,以及能否守住用戶的隱私底線。

人工智能的發(fā)展是必然的趨勢,也是一件好事。但是人工智能的發(fā)展也要維持在我們可以把控的范疇之內(nèi)。正義和邪惡的判斷,是通過人的大腦才能夠懂得的事情,人工智能能夠模仿人類,但是他們并不能理解、代替人類,人工智能的發(fā)展的根本,也僅僅是讓它們服務(wù)于人類而已。

想了解更多創(chuàng)業(yè)好項目,點擊這里,開啟你的創(chuàng)業(yè)之路!

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!

相關(guān)文章

  • 人工智能時代下閱北科技的創(chuàng)新與變革

    在信息技術(shù)持續(xù)革新與市場競爭日趨激烈的行業(yè)環(huán)境下,本地生活服務(wù)領(lǐng)域正經(jīng)歷著深刻的智能化轉(zhuǎn)型。這一轉(zhuǎn)型過程不僅涉及技術(shù)層面的升級迭代,更關(guān)乎服務(wù)模式與行業(yè)生態(tài)的系統(tǒng)性重構(gòu)。閱北科技通過持續(xù)推進(jìn)算法技術(shù)的優(yōu)化與應(yīng)用,在提升服務(wù)精準(zhǔn)度和用戶滿意度方面進(jìn)行了積極探索。閱北的算法系統(tǒng)建立在持續(xù)優(yōu)化的技術(shù)架構(gòu)之

    標(biāo)簽:
    人工智能
  • 甌江論道:AI賦能綠色發(fā)展

    2025年10月25日,2025世界青年科學(xué)家峰會之人工智能(AI)融合創(chuàng)新發(fā)展論壇在浙江溫州成功舉辦。本次論壇由國際院士科創(chuàng)中心主辦,中國投資協(xié)會能源投資專業(yè)委員會、溫港院士科創(chuàng)中心承辦,中國電工技術(shù)學(xué)會、中科先進(jìn)技術(shù)溫州研究院與溫州市電力工程學(xué)會提供支持,以“甌江論道-AI賦能綠色發(fā)展”為主題,

    標(biāo)簽:
    ai技術(shù)
  • 漕河涇天罡人工智能研究院正式揭牌 開啟中國人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展新篇章

    2025年10月17日,上海在人工智能技術(shù)加速演進(jìn)、產(chǎn)業(yè)生態(tài)持續(xù)升級的關(guān)鍵時期,由上海市漕河涇新興技術(shù)開發(fā)區(qū)發(fā)展總公司聯(lián)合天罡智算交易平臺共同發(fā)起成立的“漕河涇天罡人工智能研究院”(以下簡稱“研究院”)正式揭牌。研究院將依托漕河涇的產(chǎn)業(yè)資源與平臺優(yōu)勢,聯(lián)合上海交通大學(xué)、上海社會科學(xué)院等權(quán)威機構(gòu),聚焦

    標(biāo)簽:
    人工智能
  • 王通:未來個人創(chuàng)業(yè)的十個機會

    個人創(chuàng)業(yè)需要啟動成本低、無需龐大團(tuán)隊、可快速驗證、能利用個人技能或資源。這里分享適合個人創(chuàng)業(yè)的十個機會一.AI內(nèi)容優(yōu)化與本地化服務(wù)·做什么:幫助企業(yè)或個人利用AI工具(如GPT-4,Midjourney)優(yōu)化內(nèi)容生產(chǎn)流程。例如,為跨境電商撰寫多語言產(chǎn)品描述,為小紅書博主生成爆款文案,為小公司制作營銷

  • 世界人工智能大會在滬召開,上海人工智能研究院多項成果精彩亮相

    以“智能時代同球共濟”為主題的2025世界人工智能大會在上海正式開幕。

    標(biāo)簽:
    人工智能
  • GDPS2025賽場直擊!開普勒大黃蜂助力華理斬獲搬運賽項桂冠

    12月12日-14日,2025全球開發(fā)者先鋒大會暨國際具身智能技能大賽(GDPS2025)于上海張江科學(xué)會堂舉行,大會以具身智能競技為核心,融合了技術(shù)比拼、產(chǎn)業(yè)展示與科普體驗,為全球觀眾呈現(xiàn)出具身智能的現(xiàn)在與未來。上海開普勒機器人有限公司(以下簡稱"開普勒機器人")攜明星產(chǎn)品K2"大黃蜂"亮相,并參

    標(biāo)簽:
    GDPS
    2025
  • 弈動 Dynamic·數(shù)智躍遷 博弈無界|2025TechWorld智慧安全大會在京召開

    在數(shù)字化與智能化深度交織的時代浪潮中,安全的邊界不斷延展,技術(shù)的演進(jìn)正引領(lǐng)產(chǎn)業(yè)邁向新一輪變革。10月24日,以“弈動Dynamic·數(shù)智躍遷博弈無界”為主題的2025TechWorld智慧安全大會在北京盛大召開。來自國家部委、院士學(xué)者、高??蒲袡C構(gòu)和企業(yè)的權(quán)威專家與業(yè)界精英齊聚北京,共議AI安全、數(shù)

    標(biāo)簽:
    弈動
  • 甌江論道:AI賦能綠色發(fā)展

    2025年10月25日,2025世界青年科學(xué)家峰會之人工智能(AI)融合創(chuàng)新發(fā)展論壇在浙江溫州成功舉辦。本次論壇由國際院士科創(chuàng)中心主辦,中國投資協(xié)會能源投資專業(yè)委員會、溫港院士科創(chuàng)中心承辦,中國電工技術(shù)學(xué)會、中科先進(jìn)技術(shù)溫州研究院與溫州市電力工程學(xué)會提供支持,以“甌江論道-AI賦能綠色發(fā)展”為主題,

    標(biāo)簽:
    ai技術(shù)
  • AI云“分野”:阿里云們“賣鏟”,火山引擎奇襲“MaaS”

    AI云“分野”:阿里云們“賣鏟”,火山引擎奇襲“MaaS”

    標(biāo)簽:
    阿里巴巴
  • 未來5年,中國AI的“大洗牌”和“內(nèi)循環(huán)”

    我覺得我們AI的目標(biāo)是:從芯片設(shè)計到軟件生態(tài),全鏈路自主開發(fā),建立可控的世界級AI體系。所以這是俺對未來5年中國AI圈的展望和判斷。(1)2026年,英偉達(dá)造車、國產(chǎn)開車26年國產(chǎn)芯片會在推理和垂直場景上發(fā)力。以DeepSeek為代表,大多數(shù)AI大模型會以軟件彌補硬件不足,所以訓(xùn)練和推理分開,訓(xùn)練就

  • H20芯片開賣即叫停,英偉達(dá)如何解圍?

    文/道哥在深陷“后門”風(fēng)波、接受網(wǎng)信辦問詢之后,英偉達(dá)的“特供版”H20芯片,又有了新消息。近日,美國科技媒體《TheInformation》援引知情人士消息稱,英偉達(dá)已悄然向其關(guān)鍵供應(yīng)商——包括負(fù)責(zé)封裝的安靠科技、供應(yīng)高帶寬內(nèi)存的三星電子、以及承擔(dān)后端處理的富士康發(fā)出指令,要求暫停所有與H20AI

    標(biāo)簽:
    英偉達(dá)