El culto apocalíptico de la IA教育阿特拉斯大學
未找到專案。
El culto apocalíptico de la IA

El culto apocalíptico de la IA

|
September 23, 2024

Hace poco publiqué el siguiente capítulo de mi libro en progreso: El profeta de la causalidad, una guía de la filosofía de Ayn Rand desde la perspectiva del papel central del concepto de causalidad. El capítulo 3 es «Un paseo por la causalidad en busca de la conciencia». Si está familiarizado con la idea de una «caminata de causalidad», tendrá una idea de lo que quiero decir con esto. Si no lo está, consulte el capítulo.

Una caminata por la causalidad en busca de la conciencia

Nota del autor: A continuación se muestra el tercer capítulo de mi libro, donde examino cómo

la causalidad se aplica a la conciencia. Si todavía te estás poniendo al día, aquí tienes el

Prefacio, capítulo 1 y capítulo 2...

Este capítulo está dedicado principalmente a comprender qué es la conciencia en primer lugar, e identifica una visión errónea de la conciencia conocida como

representacionalismo, que se esconde detrás de un montón de desastrosos errores filosóficos, desde Descartes hasta Hume y Kant, hasta el día de hoy.

Cubro algunos ejemplos recientes, pero hay otro que verás en todas partes ahora mismo: la inteligencia artificial. Gran parte del miedo (o entusiasmo) ante la posibilidad de que la IA se vuelva sensible y «superinteligente» proviene de una visión representacionalista de

conciencia. Si la conciencia no es más que un flujo de imágenes o datos manipulados en una especie de pantalla de vídeo interna, que es el error clave del representacionalismo, entonces parece plausible que un chatbot de inteligencia artificial que extrae texto digital de Internet pueda ser consciente y adquirir una inteligencia independiente. Si, por el contrario, la conciencia requiere un contacto directo e independiente con el mundo, entonces no es plausible. Vea mi argumento anterior al respecto.

Por qué los robots no nos comerán

Las discusiones sobre el futuro de la inteligencia artificial suelen quedar atrapadas entre visiones utópicas y distópicas que compiten entre sí. La suposición habitual es que los robots nos sustituirán, lo que significa que o nos liberaremos de la necesidad de trabajar y todos viviremos como aristócratas mimados —esa es la versión utópica— o

robot...

Para hacerte una idea de hasta qué punto la gente se está descarrilando al respecto, echa un vistazo a un extenso resumen sobre el extraño ascenso y la caída de una secta a la «perdición de la IA».

Según el movimiento Altruismo Efectivo, el problema más urgente del mundo es evitar un apocalipsis en el que una Inteligencia General Artificial (AGI) extermine a la humanidad.

Una investigación exhaustiva sobre el discurso público del movimiento EA y su discurso introspectivo descubrió que utilizaba tácticas de «cebo y cambio» para atraer a nuevos miembros, que habían pasado de la pobreza mundial a la perdición de la IA. La orientación consistía en promover la causa pública (causas menos controvertidas, como «dar a los pobres») y no hablar de las causas «fundamentales de la EA» (riesgo existencial/seguridad de la IA). Los influyentes altruistas efectivos escribieron explícitamente que esta era la mejor manera de hacer crecer el movimiento.

Este informe se centra en una organización en particular:

Leverage Research dirigió «un programa de investigación sobre psicología y comportamiento humano». Una versión antigua de su sitio web (Wayback Machine, junio de 2013) indica que el programa implicaba «la ejecución simultánea de una serie de proyectos difíciles relacionados con diferentes facetas de la mente humana».

Los miembros entendieron que se estaban apuntando para ser conejillos de indias para experimentos de introspección, alterando la estructura de creencias y la dinámica experimental de los grupos. Según diversas alegaciones, esto condujo a la disociación y la fragmentación, que han encontrado difícil revertir.

En 2021, Zoe Curzi publicó una publicación detallada titulada «Mi experiencia con Leverage Research». «Formé parte de Leverage/Paradigm de 2017 a 2019», escribió, y experimenté «la guerra narrativa, el engaño y la distorsión de la realidad». Cada día incluía horas de «trabajo mental y emocional desestabilizador». Pasó muchos meses de «terror casi constante por haber sido invadida mentalmente». Su angustia psicológica y su trastorno de estrés postraumático se debieron a las «sesiones de depuración» de Leverage, cuyo objetivo era «decapitar» las mentes de los miembros y (mediante confrontaciones) «generar pensamientos racionales».

Prácticamente podemos detenernos aquí, porque ninguna organización que realice una «investigación psicológica» real lleva a cabo esa investigación. sobre sus propios miembros. Evidentemente, es un método inválido porque, por supuesto, no se obtendrán resultados objetivos de las investigaciones realizadas con personas con información privilegiada que ya saben el resultado que buscan.

Pero, ¿sabes a qué tipo de organización le gusta someter a sus miembros a un intenso escrutinio y presión psicológicos, en particular por parte de los que están más arriba en la organización? Así es, sectas. Y eso es básicamente en lo que se convirtió este.

Sin duda, los movimientos basados en creencias apocalípticas (el apocalipsis de los robots está cerca) tienden a atraer a los fanáticos. Pero este es interesante por dos razones.

En primer lugar, surgió de un movimiento llamado «Altruismo efectivo», que por lo que puedo ver no es más que un utilitarismo recauchutado, en el que determinaremos científicamente cuál es el mayor bien para el mayor número de personas. El altruismo hace que las personas sean intrínsecamente vulnerables al abuso, porque les enseña a subordinar su mente y su bienestar a las exigencias que les impongan los demás. Como dijo Ayn Rand en su propia crítica del altruismo: «El hombre que te habla de sacrificio, habla de esclavos y amos. Y tiene la intención de ser el amo». Esto es particularmente cierto en el caso del utilitarismo, porque fomenta el sacrificio de vidas humanas reales e individuales en aras de la supuesta «utilidad agregada» de la sociedad en su conjunto, según lo juzgan los autoproclamados portavoces de la «sociedad».

Combina esto con el doomerismo de la IA y tendrás una trampa para atrapar a las personas que están predispuestas a subordinarse a una causa social.

Un artículo publicado en el Less Wrong Forum, titulado «Conocimientos comunes sobre Leverage Research 1.0», afirmaba que el propósito declarado de Leverage era descubrir más teorías sobre el comportamiento humano y la civilización mediante la «teorización» y, al mismo tiempo, acumular poder y, literalmente, apoderarse de la gobernanza estadounidense o mundial (la sensación era «apoderarse del mundo»). La narrativa dentro del grupo era que eran la única organización con un plan que podía funcionar y la única posibilidad real de salvar el mundo; que no había posibilidad de éxito en el objetivo de salvar el mundo fuera de la organización.

Lo que es aún más fascinante es que esto se extendió entre la llamada comunidad «racionalista», que se formó con el objetivo declarado de ayudar a las personas a llegar a conclusiones más racionales. Pero es notoriamente fácil sustituir la racionalidad por la racionalización, y los «racionalistas» contemporáneos a menudo terminan ejemplificando el sentido en el que los objetivistas usan ese término: para referirse al error de confiar en una cadena flotante de deducciones en lugar de basar las opiniones de uno en la realidad.

Este culto en particular también implicaba, inevitablemente, un esquema de criptomonedas, lo que constituye una buena continuación de mi examen del fraude FTX de Sam Bankman-Fried. Es otro ejemplo de cómo el «altruismo efectivo», al igual que las formas más tradicionales de esta filosofía moral, tiende a acabar con el engaño de los tontos.

Por último, he aquí un seguimiento que acabo de darme cuenta de que he omitido en mi reciente publicación sobre nuestro Congreso que no hace nada. Escribí sobre la abdicación por parte del Congreso de la legislación sustantiva en favor de adoptar posturas de guerra cultural. Así es como se ve en la práctica cuando se filtra a nivel estatal, según un informe de Associate Press del 17 de junio.

El máximo funcionario de educación de Oklahoma ordenó el jueves a las escuelas públicas incorporar la Biblia en las lecciones de los grados 5 a 12, el último esfuerzo de los conservadores para incorporar la religión en las aulas.

La orden enviada a los distritos de todo el estado por el superintendente estatal republicano Ryan Walters dice que el cumplimiento del mandato es obligatorio y que «se espera un cumplimiento inmediato y estricto».

«La Biblia es una piedra de toque histórica y cultural indispensable», dijo Walters en un comunicado. «Sin un conocimiento básico al respecto, los estudiantes de Oklahoma no pueden contextualizar adecuadamente los cimientos de nuestra nación, razón por la cual los estándares educativos de Oklahoma prevén su enseñanza».

De hecho, lo que dijo fue aún peor.

«La Biblia es un documento histórico necesario para enseñarles a nuestros hijos sobre la historia de este país», dijo Walters a la Junta Estatal de Educación el mes pasado. Por lo tanto, prosiguió, «cada maestro, cada aula del estado, voluntad tendrá una Biblia en el aula y enseñará de la Biblia en el aula».

Eso significa cada profesor, sin importar la materia que se enseñe. Prepárense todos para las matemáticas bíblicas.

O quizá no.

Pero no está claro si Walters tiene la autoridad para exigir que las escuelas lo enseñen. La ley estatal establece que los distritos escolares individuales tienen la autoridad exclusiva para decidir sobre la instrucción, el plan de estudios, las listas de lectura, los materiales didácticos y los libros de texto.

Y cuando los niños regresan a la escuela, ¿qué deciden hacer los distritos locales? En gran parte, lo ignoran, por razones muy sensatas.

«Si no hay un estándar curricular que se relacione con esa clase en particular, ¿cuál sería el propósito de una Biblia si no fuera por el puro adoctrinamiento?» dijo el superintendente Rob Miller de Bixby [un suburbio de Tulsa]...

Los bufetes de abogados que los representan y el mayor sindicato de maestros del estado, la Asociación de Educación de Oklahoma, también han ofrecido orientación a los distritos escolares en el sentido de que el superintendente no tiene la autoridad unilateral para emitir tal requisito y que el edicto es inaplicable.

Pero eso no impedirá que lo intenten, como en una propuesta similar en Texas. Y todo ese discurso antidespierto que han escuchado sobre el peligro del «adoctrinamiento» en las aulas no impedirá que los conservadores traten de imponer su propia forma de adoctrinamiento.

羅伯特·特拉辛斯基
About the author:
羅伯特·特拉辛斯基

Rob Tracinski estudió filosofía en la Universidad de Chicago y ha sido escritor, conferenciante y comentarista durante más de 25 años. Es el editor de Symposium, una revista de liberalismo político, es columnista de la revista Discourse y escribe The Tracinski Letter. Es autor de Entonces, ¿quién es John Galt de todos modos? Una guía para el lector sobre Atlas Shrugged de Ayn Rand.

未找到專案。
未找到專案。