Nick Bostrom

Si Nick Bostrom (ipinanganak noong 10 Marso 1973) ay isang Swedish philosopher sa University of Oxford na kilala sa kanyang trabaho sa anthropic bias, ang etika ng human enhancement, superintelligence, at existential risk.

Mga Kawikaan

[Kung] ang ating mga aksyon ay may kahit na katiting na epekto sa posibilidad ng tuluyang kolonisasyon, ito ay hihigit sa epekto nito kapag naganap ang kolonisasyon. Para sa mga karaniwang utilitarian, ang priority number one, two, three at four ay dapat na dahil dito ay upang mabawasan ang existential risk. Ang utilitarian imperative na "I-maximize ang inaasahang pinagsama-samang utility!" maaaring pasimplehin sa maxim na "I-minimize ang existential risk!"
Maraming tao ang tumitingin sa kalikasan mula sa isang aesthetic na pananaw at nag-iisip sa mga tuntunin ng biodiversity at kalusugan ng mga ecosystem, ngunit nakakalimutan na ang mga hayop na naninirahan sa mga ecosystem na ito ay mga indibidwal at may sariling mga pangangailangan. Ang sakit, gutom, predation, ostracism, at sekswal na pagkabigo ay endemic sa tinatawag na malusog na ecosystem. Ang dakilang bawal sa kilusang karapatan ng hayop ay ang karamihan sa pagdurusa ay dahil sa mga likas na dahilan. Anumang panukala para sa paglunas sa sitwasyong ito ay tiyak na magiging utopian, ngunit ang pangarap ko ay isang araw na sisikat ang araw sa Mundo at lahat ng nabubuhay na nilalang ay sasalubungin ang bagong araw nang may kagalakan.
Kung si Inang Kalikasan ay isang tunay na magulang, siya ay nasa kulungan dahil sa pang-aabuso at pagpatay sa bata.
Ang singleton hypothesis ay ang Earth-originating intelligent na buhay ay (kalaunan) ay bubuo ng singleton. Ito ay isang bukas na tanong kung ang singleton hypothesis ay totoo. Ang aking sariling opinyon ay mas malamang na totoo ito kaysa hindi. Sa kasaysayan, nakita natin ang isang malawak na kalakaran tungo sa paglitaw ng mas mataas na antas ng panlipunang organisasyon, mula sa mga hunter-gatherer band, hanggang sa mga punong-bayan, lungsod-estado, mga bansang estado, at ngayon ay mga organisasyong multinasyunal, mga alyansa sa rehiyon, iba't ibang istrukturang pang-internasyonal na pamamahala, at iba pang aspeto. ng globalisasyon. Ang extrapolation ng trend na ito ay tumuturo sa paglikha ng singleton.
Ang paghahanap ng lunas para sa pagtanda ay hindi lamang isang magandang bagay na marahil isang araw ay dapat nating puntahan. Ito ay isang kagyat, sumisigaw na moral na kailangan. Kung mas maaga tayong magsimula ng isang nakatutok na programa sa pananaliksik, mas maaga tayong makakakuha ng mga resulta. Mahalaga kung makuha natin ang lunas sa loob ng 25 taon kaysa sa 24 na taon: ang populasyong mas malaki kaysa sa Canada ay mamamatay bilang resulta. Sa bagay na ito, ang oras ay katumbas ng buhay, sa bilis na humigit-kumulang 70 buhay kada minuto. Sa sobrang bilis ng pag-tick ng metro, dapat na nating itigil ang pangungulit.
Sa pamantayan ng sinuman, mayroong isang malaking halaga ng hindi kailangan at hindi nararapat na pagdurusa na masama lamang at dapat nating alisin.
Ang Internet ay isang malaking biyaya sa akademikong pananaliksik. Wala na ang mga araw na ginugol sa maalikabok na mga stack ng library sa paghuhukay ng mga artikulo sa journal. Maraming mga artikulo ang magagamit nang libre sa publiko sa open-access na journal o bilang mga preprint sa website ng mga may-akda.
Malamig ang uniberso. Ang saya ay ang apoy na tumutunaw sa mga bloke ng kahirapan at lumilikha ng isang bumubula na pagdiriwang ng buhay. Ito ay ang karapatan ng kapanganakan ng bawat nilalang, isang karapatan na hindi gaanong sagrado dahil sa natapakan mula pa noong simula ng panahon.
Ano ang maaaring maging mas kaakit-akit kaysa sa pagtuklas ng buhay na ganap na umunlad nang hiwalay sa buhay dito sa Earth? Maraming mga tao ang nakakapanatag din na malaman na hindi tayo lubos na nag-iisa sa malawak na malamig na kosmos na ito. Ngunit umaasa ako na ang ating mga pagsisiyasat sa Mars ay walang matuklasan. Magiging magandang balita kung makikita natin na ang Mars ay ganap na baog. Ang mga patay na bato at walang buhay na buhangin ang magpapasigla sa aking espiritu.
Pinagbabantaan ng infinitarian paralysis ang mga aggregative consequentialist theories: tila ipinahihiwatig ng mga ito na kung ang mundo ay canonically infinite then it is always ethically ignorant what we do. Sa partikular, ipahiwatig nila na ito ay walang malasakit sa etika kung tayo ay nagdudulot ng isa pang holocaust o pinipigilan ang isa na mangyari. Kung ang anumang hindi magkasalungat na implikasyon ng normatibo ay isang reductio ad absurdum, ito ay.
Posible na ang mga pagsisikap na pag-isipan ang ilang lugar ng peligro—sabihin, eksistensyal na panganib—ay mas makakasama kaysa makabubuti. Maaaring ipagpalagay ng isa na ang pag-iisip tungkol sa isang paksa ay dapat na ganap na hindi nakakapinsala, ngunit ito ay hindi kinakailangan. Kung ang isa ay makakakuha ng isang magandang ideya, ang isa ay matutukso na ibahagi ito; at sa paggawa nito ay maaaring lumikha ang isang tao ng panganib sa impormasyon. Gayunpaman, gusto ng isang tao na maniwala na, sa balanse, ang mga pagsisiyasat sa mga umiiral na panganib at karamihan sa iba pang mga panganib na lugar ay malamang na mabawasan sa halip na dagdagan ang mga panganib ng kanilang paksa.
Dahil hindi natin ganap na maalis ang eksistensyal na panganib — anumang sandali, maaari tayong itapon sa dustbin ng kasaysayan ng kosmiko sa pamamagitan ng pagsulong sa harap ng isang vacuum phase transition na na-trigger sa ilang malayong kalawakan isang bilyong taon na ang nakalilipas - ang paggamit ng maximin sa kasalukuyang konteksto ay nangangailangan ng pagpili ng aksyon na may pinakamalaking benepisyo sa ilalim ng pagpapalagay ng nalalapit na pagkalipol. Ipinahihiwatig ni Maximin na dapat tayong lahat ay magsimulang mag-party na parang walang bukas. Ang implikasyon na iyon, habang marahil ay nakatutukso, ay hindi kapani-paniwala.
Sa aklat na ito, sinisikap kong unawain ang hamon na ipinakita ng pag-asa ng superintelligence, at kung paano tayo pinakamahusay na tumugon. Ito ay lubos na posibleng ang pinakamahalaga at pinakanakakatakot na hamon na hinarap ng sangkatauhan. At—magtagumpay man tayo o mabigo—malamang ito na ang huling hamon na haharapin natin.
Ang mga tagamasid sa mga naunang panahon ay maaaring natagpuan na ito ay pantay na kataka-taka na ipagpalagay na ang ekonomiya ng mundo ay balang araw ay magdodoble nang maraming beses sa loob ng isang habang-buhay. Ngunit iyon ang pambihirang kondisyon na ginagawa natin ngayon upang maging karaniwan.
Malayo sa pagiging pinakamatalino na posibleng biological species, malamang na mas iniisip tayo bilang ang pinakatanga na posibleng biological species na may kakayahang magsimula ng teknolohikal na sibilisasyon - isang angkop na lugar na pinunan natin dahil nauna tayong nakarating doon, hindi dahil sa anumang kahulugan tayo ay mahusay na naangkop dito.
Malayo sa pagiging pinakamataas na posibleng biological species, malamang na mas iniisip tayo bilang ang pinakatanga na posibleng biological species na maaaring magsisimula ng teknolohikal na sibilisasyon - isang angkop na lugar na pinunan natin dahil nauna tayong nakarating doon, hindi dahil sa anumang kahulugan tayo ay mahusay na naangkop dito.
Ang agwat sa pagitan ng isang pipi at isang matalinong tao ay maaaring lumitaw na malaki mula sa isang anthropocentric na pananaw, ngunit sa isang hindi gaanong parokyal na pananaw ang dalawa ay halos hindi makilala ang mga isip.
Marahil ito ay isang tanda ng pag-unlad ng sibilisasyon na ang mismong ideya ng pagbabanta ng isang nukleyar na unang welga ngayon ay tila hangganan na hangal o malaswa sa moral.
Ipagpalagay na ang nakikitang uniberso ay walang mga extraterrestrial na sibilisasyon, kung gayon ang nakasabit sa balanse ay hindi bababa sa 10,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000 (malamang na mas malaki ang bilang ng tao). Kung kinakatawan natin ang lahat ng kaligayahang naranasan sa isang buong buhay na may isang patak ng luha ng kagalakan, kung gayon ang kaligayahan ng mga kaluluwang ito ay mapupuno at mapupuno muli ang mga karagatan ng Earth bawat segundo, at patuloy na ginagawa ito sa loob ng isang daang bilyong bilyong taon. Napakahalaga na tiyakin natin na ang mga ito ay tunay na luha ng kagalakan.
Sa halip, ang aming pagkamatay ay maaaring magresulta mula sa pagkawasak ng tirahan na kasunod kapag sinimulan ng AI ang mga malalaking pandaigdigang proyekto sa konstruksiyon gamit ang mga pabrika at assembler ng nanotech—mga proyekto sa pagtatayo na mabilis, marahil sa loob ng mga araw o linggo, na-tile ang lahat ng ibabaw ng Earth ng mga solar panel, nuclear reactor, supercomputing. mga pasilidad na may nakausli na mga cooling tower, space rocket launcher, o iba pang mga installation kung saan nilalayon ng AI na i-maximize ang pangmatagalang pinagsama-samang pagsasakatuparan ng mga halaga nito. Ang utak ng tao, kung naglalaman ang mga ito ng impormasyong nauugnay sa mga layunin ng AI, ay maaaring i-disassemble at ma-scan, at ang nakuhang data ay mailipat sa ilang mas mahusay at secure na format ng storage.
Ang kalikasan ay maaaring isang mahusay na eksperimento, ngunit isa na hindi kailanman papasa sa isang ethics review board - lumalabag sa Helsinki Declaration at sa bawat pamantayan ng moral decency, kaliwa, kanan, at gitna.
Ang paglutas sa problema sa paglo-load ng halaga ay isang hamon sa pananaliksik na karapat-dapat sa ilan sa pinakamahusay na talento sa matematika ng susunod na henerasyon. Hindi namin maaaring ipagpaliban ang pagharap sa problemang ito hanggang sa magkaroon ng sapat na dahilan ang AI upang madaling maunawaan ang aming mga intensyon.
Ang paglutas sa problema sa paglo-load ng halaga ay isang hamon sa pananaliksik na karapat-dapat sa ilan sa pinakamahusay na talento sa matematika ng susunod na henerasyon. Hindi namin maaaring ipagpaliban ang pagharap sa problemang ito hanggang sa magkaroon ng sapat na dahilan ang AI upang maunawaan ang aming mga intensyon.
Bago ang pag-asam ng isang pagsabog ng katalinuhan, tayong mga tao ay tulad ng maliliit na bata na naglalaro ng bomba. Ganyan ang hindi pagkakatugma sa pagitan ng kapangyarihan ng ating paglalaro at ng kawalang-gulang ng ating pag-uugali. Ang superintelligence ay isang hamon na hindi tayo handa ngayon at hindi magiging handa sa mahabang panahon. Wala kaming ideya kung kailan magaganap ang pagsabog, ngunit kung hahawakan namin ang aparato sa aming tainga ay makakarinig kami ng mahinang tunog ng pagkiliti.
Sa sitwasyong ito, ang anumang pakiramdam ng gee-wiz exhilaration ay mawawala sa lugar. Ang pagkabalisa at takot ay magiging mas malapit sa marka; ngunit ang pinakaangkop na saloobin ay maaaring isang mapait na determinasyon na maging kasing kakayahan natin, na para bang naghahanda tayo para sa isang mahirap na pagsusulit na maaaring makamit ang ating mga pangarap o mapapawi ang mga ito.