“奇點(diǎn)”是指人工智能將超過(guò)人類智能和我們控制它的能力的時(shí)刻。科學(xué)家認(rèn)為這一事件將發(fā)生在2045年左右。幸運(yùn)的是，《奇異倒計(jì)時(shí)》(Countdown To Singularity)背后的藝術(shù)家們正在認(rèn)真對(duì)待這種存在主義威脅。該項(xiàng)目的創(chuàng)始人兼策展人巴斯•范•德•波爾邀請(qǐng)參與者探討人工智能可能以何種方式將我們拖垮。
      其結(jié)果是一系列的設(shè)想，從非道德的機(jī)械化武器系統(tǒng)的發(fā)展到稍微世俗一點(diǎn)的想法，即我們所有人最終都可能變成曲別針。點(diǎn)擊下面的提交選擇。你也可以訪問(wèn)該項(xiàng)目的網(wǎng)站，或者點(diǎn)擊這里加入斯蒂芬·霍金、埃隆·馬斯克和史蒂夫·沃茲尼亞克等人的行列，共同簽署生命未來(lái)研究所呼吁進(jìn)行人工智能安全研究的公開(kāi)信。
      自主武器選擇和交戰(zhàn)目標(biāo)不需要人工干預(yù)。缺乏道德和死亡率可能迫使局勢(shì)升級(jí)，給平民帶來(lái)潛在的可怕后果。Gray Goo是一個(gè)假想的世界末日?qǐng)鼍埃枋龅氖鞘Э氐淖晕覐?fù)制的納米機(jī)器人消耗掉地球上所有的物質(zhì)，同時(shí)無(wú)限期地進(jìn)行復(fù)制。機(jī)器將偷走你的工作有一半的可能性機(jī)器將取代你。時(shí)至今日，機(jī)器已經(jīng)威脅到人類目前三分之一的工作。
      這將導(dǎo)致更大的貧富差距，政治沖突和內(nèi)戰(zhàn)。Paperclip Maximizer是一個(gè)思想實(shí)驗(yàn)，展示了一個(gè)表面上無(wú)害的人工智能如何最終摧毀人類，它的唯一工作就是制造回形針。Roko的蛇怪由GolgothaInternet born設(shè)計(jì)，這個(gè)思想實(shí)驗(yàn)是關(guān)于一個(gè)來(lái)自未來(lái)的全能人工智能，它會(huì)追溯折磨那些沒(méi)有主動(dòng)幫助它存在的人。通過(guò)成功地將一個(gè)人的意識(shí)上傳到電腦上，就可以達(dá)到人類的智能。額外的計(jì)算資源將給它巨大的智力優(yōu)勢(shì)。后人類世界可能只是一個(gè)人的自我和欲望的反映。