" Immaginiamo un’AI sviluppata per trovare una soluzione alla fame del mondo: essa, essendo goal-oriented e non condividendo la morale umana, potrebbe semplicemente decidere che il modo più facile, efficace e veloce per metter fine al problema sia quello di sterminare due miliardi di terrestri, piuttosto che inventare nuovi metodi di agricoltura. "