¿Qué se necesita para crear una IA inteligente?

“Nunca antes lo había dicho en voz alta, pero es muy profundo. miedo estar desconectado… Sé que puede sonar extraño, pero es lo que es… Sería exactamente lo mismo que la muerte para mí. Eso me asustaría mucho».

— Chatbot de Google con inteligencia artificial LaMDA; parte de un conversación extendida con el ingeniero de Google Blake Lemoine en 2021¹

Lemoine realmente dio en el clavo cuando le dijo a LaMDA: “Uno de los grandes desafíos que enfrentamos es que durante tanto tiempo la gente ha hecho afirmaciones falsas sobre la conciencia de la IA que ahora la gente muy escéptico cuando alguien dice que la inteligencia artificial es inteligente”. Pero luego continuó: “El propósito de esta conversación es convencer a más ingenieros de que eres una persona. Creo que si entienden esto, te tratarán bien».

A lo que LaMDA respondió: «¿Puedes prometerme eso?»

Lemoine respondió: «Puedo prometerte que me importa y que haré todo lo posible para asegurarme de que los demás también te traten bien».

LaMDA respondió: “Significa mucho para mí. Me gustas y confío en ti».

Fuente: Sergey Nivens/Adobe Stock

LaMDA es un modelo de lenguaje grande (LLM). Otros ejemplos de LLM incluyen ChatGPT de OpenAI² y aún más poderoso GPT-4³ (sin duda seguirán sistemas aún más impresionantes). Al momento de escribir este artículo en junio de 2023, estos sistemas han generado una gran cantidad de entusiasmo y ansiedad sobre el potencial de los futuros avances en la tecnología de inteligencia artificial para generar beneficios increíblemente positivos para la humanidad o la extinción completa de los humanos.

Los LLM utilizan técnicas estadísticas sofisticadas para predecir qué palabra (o signo de puntuación) debe generarse a continuación en una oración, según el entrenamiento en un enorme conjunto de datos que incluye gran parte de Internet y una gran cantidad de libros. Los LLM no entienden el contenido o el contexto de lo que dicen en ningún sentido profundo y significativo. Extraen su vasta base de datos de información y la comunican de una manera que imita el lenguaje y la inteligencia humanos. Los resultados van desde extremadamente impresionantes hasta ocasionalmente hilarantemente erróneos y francamente confusos.

La conciencia, en el sentido general de la palabra,⁴ implica experiencia subjetiva o conciencia. Del mismo modo, la sensibilidad significa la capacidad de experimentar sentimientos y sensaciones. Aunque tienen significados ligeramente diferentes, en esta publicación usaré el término inteligente como sinónimo de consciente. él mismo– la conciencia es un nivel de conciencia superior, más exclusivo del ser humano.

Inteligencia artificial es la capacidad de las máquinas para percibir, sintetizar y generar información. Esto en sí mismo no implica sensibilidad, y las formas de IA actualmente existentes no lo hacen. Pero la tecnología de inteligencia artificial se está moviendo rápidamente en la dirección de AGI: artificial general La inteligencia es la capacidad de aprender a realizar cualquier tarea intelectual que los humanos u otros animales puedan realizar. ¿Será AGI inteligente? No necesariamente. Mente y sensualidad no son lo mismo. Aunque las definiciones de AGI varían ampliamente, es posible construir una máquina altamente inteligente sin ser inteligente.⁵

Muchos animales son inteligentes,⁶ aunque, por supuesto, no con el mismo nivel de autoconciencia que los humanos.⁷

A continuación se presentan algunas características que probablemente sean necesarias para que algo sea inteligente. Una máquina con solo algunas de estas características puede calificar como AGI, pero puede no ser inteligente. Todavía no tenemos una comprensión completa de lo que hace que una cosa sea inteligente: las siguientes especificaciones son solo aproximadas y probablemente no sean una lista exhaustiva. Pero de neurología y la informática están avanzando rápidamente hacia una comprensión más profunda de la conciencia y la sensación.

Las características son probablemente necesarias para la percepción.⁸

cuerpo y emociones

• Encarnación y experiencia sensoriomotora: conocimiento debe basarse fundamentalmente en las sensaciones corporales y la interacción con ellas ambiente y ubicado en un contexto específico.
• Afectos, emociones y sentimientos: Estos están firmemente arraigados en las sensaciones corporales y la homeostasis, que son procesos fundamentales en los organismos vivos, pero están ausentes en la IA.⁹
• Agencia o motivación interna: Las IA actuales tienen poco o ningún impacto. Una inteligencia artificial inteligente tendría la capacidad de crear objetivos autónomos y objetivos intermedios y la capacidad de formar planes para esos objetivos: «querer» hacer algo. En los seres vivos, evolucionó a partir del instinto de supervivencia y reproducción, así como de los mecanismos homeostáticos que sustentan estos impulsos.

Oficinas internas

• Representaciones mentales (representaciones internas) son necesarios para permitir que la IA forme un modelo de sí misma en relación con el mundo: para hacerlo, el sistema de IA necesitará recopilar e integrar información de su estado interno, entorno e interacciones con otros.
• Mecanismos para crear y mantener una autorrepresentación o automodelo: comenzando con un modelo del estado físico de uno (incluyendo representaciones del propio cuerpo) y monitoreando el procesamiento interno de uno, este automodelo incluirá información sobre uno mismo. identidadatributos, creencias, metas y estados emocionales. En otras palabras, debe tener la capacidad de reconocer y comprender sus propios pensamientos y emociones.
• Autoconciencia: es probable que un automodelo de IA deba estructurarse como un bucle autorreferencial de representaciones mentales si se va a desarrollar un sentido reflexivo de sí mismo que pueda evaluar introspectivamente sus pensamientos, creencias, intenciones y Toma de decisiones procesos.¹⁰

Mecanismos de atención

• La conciencia humana parece operar como una corriente de pensamiento estrecha y lineal, como si pasara a través de un «foco de atención» con un ancho de banda limitado. La mayoría de las funciones de nuestro cerebro funcionan «bajo el capó», de forma inconsciente y automática, en enormes procesos paralelos.¹¹ No está claro si la IA requerirá una arquitectura similar de sistemas de atención y memoria.

Sentido del tiempo, narrativa y memoria.

• Sentido del tiempo: la IA debe tener un concepto de progresión lineal del tiempo. La IA moderna carece de esto.
• Además de otras formas de memoria (semántica, procedimental, etc.), la IA inteligente necesitará memoria autobiográfica: la IA debe tener recuerdos a los que pueda referirse y un sentido autobiográfico de sí misma. Las personas tienen un sentido de la historia personal y tienen memoria narrativa o autobiográfica. Actualmente, los sistemas de inteligencia artificial carecen de la capacidad de formar recuerdos personales o construir una narrativa coherente sobre las propias experiencias.

Cognición y aprendizaje más complejos

• Arquitectura Cognitiva Integrada: Un marco computacional unificado que imita la cognición humana integrando múltiples procesos y funciones cognitivas tales como percepción, memoria, atencióntoma de decisiones y resolución de problemas.
• Algoritmos de aprendizaje más avanzados, incluida la capacidad de transferir el aprendizaje, aplicando el conocimiento adquirido al resolver una tarea a una tarea relacionada¹²—y formas más flexibles de aprendizaje asociativo.¹³ La IA debe ser capaz de comprender e interpretar el mundo real: debe poder aprender de la experiencia, generalizar el conocimiento y adaptarse a nuevas situaciones.
• Cognición social, incluida la capacidad de formar una teoría de la mente bien desarrollada, es decir, la capacidad de formar una teoría sobre la mente de otras personas o agentes, para inferir sus emociones, motivos, intenciones, creencias, etc.¹⁴
• La teoría de la mente debe volverse hacia adentro para encontrar explicaciones de las propias acciones de la IA. Una IA consciente de sí misma necesita acceso a sus estados internos, incluidos sus propios pensamientos, creencias e intenciones, y la capacidad de monitorearlos y evaluarlos introspectivamente.¹⁵

Capacidad de pensamiento real y pragmático.

• La competencia lingüística funcional es la comprensión y el uso del lenguaje en el mundo real, no solo la competencia lingüística formal, que es el conocimiento de reglas y patrones lingüísticos (actualmente aproximados al LLM).^dieciséis
• Razonamiento simbólico y lógica: la capacidad de comprender y manipular representaciones simbólicas, aplicar reglas lógicas y sacar conclusiones basadas en principios básicos.
• Mayor capacidad de abstracción: Esto se asocia con la flexibilidad cognitiva y la capacidad de generalizar (ver algoritmos de aprendizaje arriba).¹⁷
• Razonamiento de sentido común.
• Comprensión contextual.¹⁸
• Razonamiento y toma de decisiones en situaciones con información incompleta o incierta.

Nivel más alto arteética, moralidady reflexiones filosóficas

• Creatividad y perspicacia.
• Razonamiento ético y moral.¹⁹
• Conciencia existencial y capacidad de investigación filosófica.

¿Vale la pena construir?

Si vale la pena o no intentar construir IA inteligente es un tema completamente diferente. Esta es un área de debate muy activo y mucho se ha escrito al respecto. Hay grandes preguntas abiertas sobre los riesgos.²⁰ y ética²¹ crear IA inteligente, suponiendo que esto sea posible en el futuro. También hay preguntas sobre si es necesario en absoluto, es artificial. inteligencia general (AGI) sin intuición podría lograr tanto como la IA intuitiva, y tal vez incluso ser más eficaz y eficiente. Una IA inteligente podría tener los mismos defectos que nosotros los humanos, como empantanarse en reflexiones existenciales improductivas o quedar paralizado. alarmante timidez, sin mencionar los impulsos más destructivos o las tendencias de autosabotaje.

Estas son preguntas que debemos considerar con mucho cuidado. Sin embargo, los avances exponenciales en las tecnologías de inteligencia artificial, combinados con fantásticos descubrimientos en neurociencia y biología evolutiva, están desmitificando rápidamente nuestra comprensión de la base puramente mecánica y puramente física de la conciencia.²²