Umělá inteligence na úrovni člověka má potenciál být nesmírně silným nástrojem, a jako každý nástroj má potenciál být používán pro dobro nebo zlo. Jedním z klíčových cílů týmu GoodAI je zajistit, aby po dosažení lidské úrovně byla AI bezpečná a využívala se ku prospěchu lidstva. Některá média popularizuji apokalyptické scénáře, avšak pokud budou přijata správná opatření a k výzkumu se bude i nadále přistupovat zodpovědě, není třeba se AI na lidské úrovni obávat ale spíše využít jako jedinečnou příležitost.

 Na konferenci Human-Level AI (AI na úrovni člověka), která se koná v srpnu, bude uspořádáno sympozium pro bezpečnost a společenské dopady AI, kde budou pozváni vedoucí výzkumní pracovníci z oblasti, aby diskutovali o důsledcích AI na úrovni člověka a vypracovali akční plány do budoucna. Vzhledem k tomu, že AI pravděpodobně bude mít zásadní dopady na oblasti, jako je pracovní trh, věda, blahobyt a mnoho dalších aspektů společnosti, je důležité, aby byly podniknuty praktické kroky, které zajistí pozitivní budoucnost.

 Vítězové ze soutěžního kola Solving the AI Race, které pořádá GoodAI v rámci soutěže pod názvem General AI Challenge, budou rovněž pozváni jako účastníci sympozia. V tomto kole soutěže měli účastníci  navrhnout potenciální řešení, která by mohla pomoci zmírnit rizika spojená se závodem v umělé inteligenci. Jako hlavní rizika se dají uvést případy, ve kterých:

klíčoví stakeholdeři, včetně vývojářů, mohou ignorovat nebo podceňovat bezpečnostní postupy nebo společné dohody ve prospěch rychlejšího nasazení plody této technologie nebude sdílet většina lidí ve prospěch lidstva jako takového, ale pouze vybraná skupinka.

 Stejně jako práce na společenských dopadech a regulacích AI je také důležité ji správně vyvinout po technické stránce. Abychom vytvořili bezpečnou AI, je důležité, aby chápala lidi a "lidské hodnoty". Jedná se o hodnoty, které nelze pevně zakódovat do počítačového programu, ale je třeba je naučit postupně podobným způsobem, jakým se děti naučí ve školách. Právě toto hluboké porozumění, získané prostřednictvím postupného učení, nám umožní vytvořit AI, kterou můžeme použít jako nástroj a která nepovede k dramatickým scénářům.

-----------------------------