Jack Clark, uno de los fundadores de Anthropic, la empresa detrás del popular chatbot Claude, ha lanzado una advertencia sobre la necesidad de poder controlar el ritmo de desarrollo de la inteligencia artificial (IA). Clark considera que la tecnología se acerca a un punto en el que podría evolucionar sin supervisión humana.
"Queremos tener la opción de poder quitar el pie del acelerador y ponerlo en el freno", declaró Clark a BBC Newsnight. "Ahora mismo, es como si la industria de la IA tuviera un pedal de aceleración, pero careciera de uno de freno". Subrayó la importancia de que los gobiernos establezcan políticas para mantener el control sobre estos sistemas, que cada vez serán más potentes y tendrán un impacto mayor en la sociedad.
Clark señaló que el mundo necesita reflexionar y desarrollar nuevas regulaciones que garanticen la confianza en estos sistemas. Ya hoy, el 80% del código de Claude, el chatbot de Anthropic, ha sido escrito por la propia IA, y Clark estima que se podría alcanzar el 100% en dos años, lo que tendría "enormes implicaciones".
Aunque no detalló cómo implementar un "freno" para la investigación y desarrollo de la IA, Clark trazó un paralelismo con el auge del petróleo a principios del siglo pasado. "La respuesta de la sociedad fue crear un marco político y regulatorio sensato que diera confianza en el petróleo y sus beneficios, evitando depender de las personalidades de los líderes de las empresas", explicó. "Claramente, ese es el camino que debemos seguir aquí".
Sin embargo, Anthropic ha recibido con agrado una orden ejecutiva reciente de la Casa Blanca sobre IA que ha sido relativamente laxa con las empresas del sector, al no exigir pruebas de seguridad obligatorias por parte del gobierno. Las principales compañías de IA, incluidas Anthropic, OpenAI y Google, tampoco han anunciado pausas en sus investigaciones.
Anthropic, fundada hace cinco años, está preparándose para salir a bolsa, lo que podría ser una de las mayores valoraciones bursátiles de la historia, estimada en casi un billón de dólares. Clark asegura que el objetivo de hacer públicas estas capacidades no es mejorar su reputación, sino "contar al mundo lo que estamos viendo dentro de estas empresas con esta tecnología tan inusual".
Desde su fundación por Dario Amodei y otros ejecutivos, Anthropic se ha posicionado como una voz crítica sobre los riesgos potenciales de la IA, llegando a tener discrepancias públicas con el Departamento de Defensa de EE.UU. por el uso de sus herramientas en vigilancia masiva o guerra autónoma.
"Me preocupa por mis hijos si como sociedad no tenemos una conversación seria sobre las implicaciones de los continuos avances de la IA", confesó Clark. "Hay beneficios potenciales enormes, pero también riesgos". Uno de ellos es la disrupción económica, con el temor de que "agentes" de IA, bots autónomos que realizan tareas rutinarias, puedan suplantar empleos.
Clark sugiere que las personas con mayor creatividad y capacidad para generar ideas tendrán una ventaja. "Todavía no hay pruebas de que los sistemas de IA puedan ser verdaderamente creativos", afirmó. "En Anthropic, ahora estamos más limitados por la capacidad de generar buenas ideas que por la ingeniería para llevarlas a la práctica".
Para los jóvenes que sientan que la economía basada en IA no tiene un lugar para ellos, Clark recomienda "desarrollar un hobby" y cursar estudios de humanidades. "Las personas creativas, que piensan en general, que leen mucho y que tienen intereses son las que más se beneficiarán", concluyó. "Cultivar la curiosidad te permite aprovechar mejor esta tecnología".
Mənbə: BBC News
