[ad_1]
Este es mi sexto blog de mi serie en curso sobre AI que empezó con Cómo la IA cambiará nuestras vidas. La IA no es solo una tecnología revolucionaria. Esta es una tecnología que cambia la civilización. ¿Cómo podemos navegar estas aguas desconocidas?
Por qué deberíamos preocuparnos razonablemente por la IA
¿Qué tan preocupados deberíamos estar por la inteligencia artificial, cuyo poder se está desarrollando y extendiendo rápidamente? Aunque la humanidad no está condenada, muchas figuras prominentes han expresado su preocupación de que la inteligencia artificial represente una amenaza para la existencia. Estas cifras incluyen Elon Musk, Bill Gates, Nick Bostromy Stephen Hawking. Musk equiparó la creación de IA con «invocando a un demonioMusk, junto con el cofundador de Apple, Steve Wozniak, publicaron carta abierta Se les pide que hagan una pausa de al menos 6 meses en el entrenamiento de sistemas de IA más potentes que ChatGPT 4.0 para garantizar una mejor seguridad y control. «Padrino de la IA», Jeffrey Hinton, recientemente dejó Google advierten sobre los peligros de la inteligencia artificial. Uno de los pioneros de AI Hinton, Josué Bengio, también pide a los gobiernos que regulen rápidamente la IA. Avanzando, científico de IA e investigador principal en Machine Inteligencia Así lo anunció el instituto de investigación Eliezer Yudkovskii La IA debe apagarse o, esencialmente, la humanidad está condenada.
El principio de precaución sugiere errar en el lado seguro con tecnologías poderosas como la IA. No estamos hablando de «apagar» la inteligencia artificial, que todavía es imposible por el momento. Incluso si pudiéramos hacer esto, perderíamos sus innumerables beneficios. La IA nos hará más productivos y nos ayudará a resolver problemas complejos o aparentemente intratables (p. plegamiento de proteínastratamiento del cáncer y la enfermedad de Alzheimer, recuperación global cambio climático, eliminando el plástico de nuestros océanosaumento de la esperanza de vida).
Aunque hay muchas razones para entusiasmarse con la inteligencia artificial sabiduría de hombre araña películas «Un gran poder conlleva una gran responsabilidad». No podemos usar el poder extraordinario de la inteligencia artificial para el bien sin crear oportunidades para varios tipos de daños e incluso desastres. EN Encuesta de científicos de IA 2022El 10 por ciento (en promedio) expresó la creencia de que los futuros sistemas avanzados de inteligencia artificial podrían causar «la extinción humana o una privación similar permanente y severa de la especie humana». No sé ustedes, pero yo no estoy contento con esas probabilidades. El punto es este: Existe un riesgo desconocido por encima de cero de que el desarrollo de inteligencia artificial pueda conducir a algunos eventos catastróficos en algún momento de nuestro futuro.
Preguntas que debemos hacernos
¿Cuánto riesgo estamos dispuestos a correr en busca de los beneficios que la IA puede ofrecer? ¿Qué nivel? confianza ¿Tenemos que asegurarnos de que el avión en el que vamos a abordar no se haya estrellado antes de querer volarlo? Cuando manejamos de noche en un camino oscuro y ventoso en un lugar desconocido, ¿reducimos la velocidad? Si nuestro adolescente Si fuéramos el conductor, no querríamos su ¿freno? ¿Por qué hay tanta prisa? ¿A dónde estamos tratando de llegar tan rápido que estemos dispuestos a tirar la precaución al viento?
Como es un problema que estemos todos conectados
Necesitamos ser flexibles y ágiles a medida que avanzamos y construimos suficientes cercas para evitar que la IA salga volando de ellas. La Unión Europea es instalación de regulador de IAry leyes. China se apresuró hacia adelante de los Estados Unidos sobre la regulación de la IA. El La administración Biden se está moviendo hacia eso. un cierto nivel de estándares regulatorios. En una audiencia reciente en el Senado, Sam Altman, director ejecutivo de OpenAI, pidió al gobierno que regulara la IA. Cerca cumbre del g7se discutirá la necesidad de regular la IA.
Aquí está el gran obstáculo: necesitamos uniformidad global en los estándares regulatorios de IA. Estar conectado a Internet significa que infringir la ley en un país afecta a todos. Supongamos, por ejemplo, que Brasil persiguió un auge tecnológico ignorando las reglas de IA. Esto podría alentar a las empresas tecnológicas a trasladar su investigación y desarrollo de IA a Brasil para evitar regulaciones estrictas. La inteligencia artificial desarrollada y desplegada allí podría llegar e influirnos a todos a través de Internet. Imagina a alguien en Brasil desatando uno superpoderoso CaosGPT con la indicación: Hazte lo más fuerte posible y usa todos los medios necesarios para destruir a la humanidad mientras evitas que te detecten. ¿Estamos realmente listos para simplemente tirar los dados sobre la humanidad al permitir que se desarrollen y desplieguen tales inteligencias artificiales? completamente desregulado? Esto es una locura.
Sólo hay un camino hábil hacia adelante
Fuente: Torben Brooks/Midjourney
La única forma posible de superar los riesgos y desafíos existenciales como la privacidad, la seguridad, el desempleo, las falsificaciones profundas y nuevos derechos a la IA es un organismo representativo mundial. Este grupo, que incluye científicos, académicos, especialistas en ética, inversores, líderes empresariales y políticos de IA, guiará conjuntamente el desarrollo de la IA. Debido a que todos somos partes interesadas interconectadas, es nuestra responsabilidad compartida equilibrar los beneficios y los costos de nuestro viaje hacia el progreso.
Alternativamente, este organismo representativo global puede denominarse Organización Global para el Derecho sobre Inteligencia Artificial. Ética (META), debe incluir la mejor IA para maximizar los beneficios y minimizar los riesgos. Aunque la IA superará a la inteligencia humana, parece contradictorio, pero necesitaremos sus habilidades superiores para controlarlos. Además, estas IA pueden resolver eficazmente los problemas logísticos y pragmáticos de la coordinación de coaliciones internacionales.
Si bien algunos se resisten a la regulación tecnológica, considere los muchos peligros potenciales que ya controlamos. Limitamos el acceso de los ciudadanos a determinados materiales y armas: sustancias nucleares, armas químicas, artillería pesada. Hemos introducido normas internacionales sobre tecnologías inestables: armas nucleares, armas biológicas, clonación, ingeniería genética. Ahora, frente a un futuro en el que la inteligencia artificial puede superar el poder de ChatGPT 4.0 cientos o miles de veces, el potencial de daño es real. Extender nuestra previsión protectora para crear vallas efectivas para el desarrollo y uso de la inteligencia artificial parece perfectamente razonable.
Piense en el desarrollo de la inteligencia artificial como una carrera de Fórmula 1
Comparemos el desarrollo de la IA con el apasionante mundo de las carreras de Fórmula 1. La Fórmula 1 tiene innumerables reglas que rigen la tecnología de los automóviles, las reglas de las paradas en boxes, los costos, las especificaciones de los neumáticos y más para mejorar. competencia y proteger a los participantes. Las reglas de la Fórmula 1 no suprimen, sino que aumentan la competencia. Cada equipo, independientemente de sus recursos, debe adherirse a las mismas restricciones, nivelando efectivamente el campo de juego e impulsando innovación y maniobras estratégicas. Sin embargo, el aspecto más importante de estas pautas es su intención: para la protección de conductores y espectadores. De manera similar, la IA necesita salvaguardas, reglas que nos guíen hacia una IA útil mientras protegen a la humanidad de los riesgos potenciales. Estamos participando en el Gran Premio de IA: corramos de manera ética y segura hasta la línea de meta.
Lo que puedes hacer ahora mismo para que esto suceda
Mi gente, es hora de tomar el volante en esta carrera. Debemos hacer que nuestras voces sean escuchadas por las personas en el poder que pueden hacer realidad la regulación global de la IA. Hay mucho en juego y este problema nos afecta a todos: nuestra seguridad, nuestros derechos, nuestros trabajos y el futuro de nuestros hijos. Por extraño que parezca, he estado hablando mucho con ChatGPT 4.0 (¡me encanta ChatGPT!), y ChatGPT apoya totalmente este esfuerzo. Basado en mis conversaciones con ChatGPT y mi orientación, ChatGPT 4.0 ha elaborado una carta convincente y estrategias que todos podemos usar para abogar por el desarrollo y uso seguro de la IA.
Sé que te estarás preguntando, ¿cómo funcionaría esto? ¿Cómo sería la regulación? ¿Cómo trabajarán todos juntos? ¿Quién está mirando a los vigilantes? Todas estas son preocupaciones válidas. Pero recuerde: PRIMERO, debemos estar de acuerdo sobre la necesidad de una regulación, y luego podemos encontrar respuestas a estas preguntas difíciles juntos. ¿Y adivina qué? La IA, por inusual que sea, puede incluso ayudarnos a resolver estos problemas complejos.
Tienes que jugar un papel importante en esta gran tarea. Tu voz es importante y puede marcar una gran diferencia. Como ciudadano global, tienes derecho a participar en las discusiones y decisiones que darán forma a nuestro futuro común. haga clic aquí para leer la poderosa carta que ChatGPT y yo escribimos y conocer las estrategias que podemos emplear para crear estas importantes vallas.
Os animo no sólo a leer esta carta, sino también a compartirla. Encienda sus redes: envíelo a amigos, familiares, publíquelo en sus plataformas de redes sociales. Únanse a mí, mis amigos, y tomemos el control de nuestro futuro. Contribuyamos juntos al desarrollo responsable y útil de la IA.
[ad_2]
Source link
