Inteligencia artificial de beneficios probados

Autor del artículo destacado
¿Deberían preocuparnos los riesgos a largo plazo de la inteligencia artificial superinteligente? En caso afirmativo, ¿qué podemos hacer al respecto? Aunque parte de la comunidad mayoritaria de la inteligencia artificial ignora estas preocupaciones, yo argumentaré que es necesaria una reorientación fundamental del campo. En lugar de construir sistemas que optimicen objetivos arbitrarios, necesitamos aprender a construir sistemas que nos resulten probadamente beneficiosos. Demostraré la utilidad de dotar a los sistemas de incertidumbre explícita referida respecto a los objetivos de los humanos a los que tienen que ayudar, pues para ello han sido diseñados.