Geoffrey Hinton sobre la inteligencia artificial

Will Douglas Heaven entrevista en Technology Review del MIT a Geoffrey Hinton, sobre su actual desconfianza en la Inteligencia Artificial:

Hinton fears that these tools are capable of figuring out ways to manipulate or kill humans who aren’t prepared for the new technology.

“I have suddenly switched my views on whether these things are going to be more intelligent than us. I think they’re very close to it now and they will be much more intelligent than us in the future,” he says. “How do we survive that?”

He is especially worried that people could harness the tools he himself helped breathe life into to tilt the scales of some of the most consequential human experiences, especially elections and wars.

“Look, here’s one way it could all go wrong,” he says. “We know that a lot of the people who want to use these tools are bad actors like Putin or DeSantis. They want to use them for winning wars or manipulating electorates.”

Hinton believes that the next step for smart machines is the ability to create their own subgoals, interim steps required to carry out a task. What happens, he asks, when that ability is applied to something inherently immoral?

“Don’t think for a moment that Putin wouldn’t make hyper-intelligent robots with the goal of killing Ukrainians,” he says. “He wouldn’t hesitate. And if you want them to be good at it, you don’t want to micromanage them—you want them to figure out how to do it.”

There are already a handful of experimental projects, such as BabyAGI and AutoGPT, that hook chatbots up with other programs such as web browsers or word processors so that they can string together simple tasks. Tiny steps, for sure—but they signal the direction that some people want to take this tech. And even if a bad actor doesn’t seize the machines, there are other concerns about subgoals, Hinton says.

“Well, here’s a subgoal that almost always helps in biology: get more energy. So the first thing that could happen is these robots are going to say, ‘Let’s get more power. Let’s reroute all the electricity to my chips.’ Another great subgoal would be to make more copies of yourself. Does that sound good?”

Maybe not. But Yann LeCun, Meta’s chief AI scientist, agrees with the premise but does not share Hinton’s fears. “There is no question that machines will become smarter than humans—in all domains in which humans are smart—in the future,” says LeCun. “It’s a question of when and how, not a question of if.”

But he takes a totally different view on where things go from there. “I believe that intelligent machines will usher in a new renaissance for humanity, a new era of enlightenment,” says LeCun. “I completely disagree with the idea that machines will dominate humans simply because they are smarter, let alone destroy humans.”

“Even within the human species, the smartest among us are not the ones who are the most dominating,” says LeCun. “And the most dominating are definitely not the smartest. We have numerous examples of that in politics and business.”

Yoshua Bengio, who is a professor at the University of Montreal and scientific director of the Montreal Institute for Learning Algorithms, feels more agnostic. “I hear people who denigrate these fears, but I don’t see any solid argument that would convince me that there are no risks of the magnitude that Geoff thinks about,” he says. But fear is only useful if it kicks us into action, he says: “Excessive fear can be paralyzing, so we should try to keep the debates at a rational level.”

LeCun es muy optimista...si no fuera por los drones sobre Kiev, la prisión de Navalni, o las medidas de control social de China, quizá se podría aceptar su visión.

Foto: Ramsey Cardy / Collision via Sportsfile, CC BY 2.0 <https://creativecommons.org/licenses/by/2.0>, via Wikimedia Commons

Catalanismo y dominio cultural

 

Desde otro punto de vista, dos líneas sobre la lengua y el catalanismo en Google. En una nueva entrega de su alerta sobre noticias de la Real Academia de Cultura Valenciana, una vez más, la mayor parte recolectada expone el punto de vista catalanista. Un común denominador en estas noticias es llamar a la RACV "secesionista", a propósito de dinero, ya que las subvenciones se han minimizado para la AVL (Academia Valenciana de la Lengua), y se han redirigido a RACV y Lo Rat Penat. Parece ser que los buenos tiempos de las subvenciones a mano abierta de la administración de PSOE y Compromis, se han acabado, y no quedará más remedio que solventarla desde instituciones catalanas. El diario catalán ARA es el que más crudamente lo manifiesta, estableciendo abiertamente que la comunidad valenciana es una dependencia catalana, y que mantener la independencia lingüística es "secesionismo". Dice el 13 de diciembre, en un artículo sin firma:

PP y Vox llevan 3.000 euros a la Academia Valenciana de la Lengua y les dan a una entidad secesionista
El cambio supone que el ente debe financiar una asociación que no reconoce la autoridad normativa de la AVL:

En lugar de colaborar con 3.500 euros con la histórica Fundación Sambori, que desde hace años organiza un concurso literario escolar, mejor subvencionar a una entidad que niega la unidad del catalán como la Asociación de Escriptores en Lengua Valenciana. Y en lugar de ayudar a la campaña para la Promoción del Libro Valenciano, recompensar el trabajo de la Escolanía Nuestra Señora de los Desamparados con 8.000 euros. Ésta es la nueva medida del Partido Popular y Vox, que han decidido enmendar el presupuesto a la Academia Valenciana de la Lengua (AVL) para 2024.

La decisión ha sido especialmente llamativa por dos motivos. El primero, porque aunque la legislación prevé que Les Corts puedan enmendar las cuentas presentadas por el ejecutivo, supone reducir la autonomía de un ente estatutario como la AVL. Y el segundo, porque implica que la Academia Valenciana de la Lengua financie a una entidad como la Asociación de Escriptores en Lengua Valenciana, que no le reconoce la autoridad y que sigue los preceptos secesionistas de la Real Academia de Cultura Valenciana, una asociación que se opone al consenso filológico y académico.

 Y también El Pais, en un artículo de María Pitarch, el 30 de noviembre, expresa su escándalo por la compra de publicaciones de orientación cercana a la RACV en reemplazo de otras catalanas en la biblioteca del ayuntamiento de Burriana (!):

El edil de Cultura contrata la suscripción a ‘Ucrònica. Lliteratura i Vanguarda’ y ‘Lletrafaller-L’Oronella’, esquivas de la AVL, junto a la publicación taurina ‘Eh Toro’.

Se llaman Ucrònica. Lliteratura i Vanguarda y Lletrafaller-L’Oronella. Sus títulos revelan ya el esquinazo al valenciano normativo: Lliteratura, y no literatura. Vanguarda en lugar de avantguarda. Sus páginas interiores confirman la tendencia, con textos en los que se suceden los ejemplos: quí (por qui), archiu (arxiu), nosatres (nosaltres), artículs (articles), o rets socials como xarxes (o xàrcies) socials.

El concejal Jesús Albiol, de Vox, al frente de la Concejalía de Cultura del ayuntamiento del municipio castellonense de Borriana —cuya alcaldía ostenta el PP— incorporará sendas revistas a la biblioteca municipal como relevo a las infantiles Camacuc y Cavall Fort, el semanario El Temps y las publicaciones Enderrock y Llengua Nacional, todas ellas en catalán. Las cinco desaparecerán de las estanterías de la biblioteca tras suspenderse a partir de enero su suscripción por parte del edil de ultraderecha, al considerarlas “catalanistas”.

El expediente de alcaldía firmado el 23 de noviembre confirma la contratación de la suscripción a estas dos nuevas revistas en valenciano no normativo, que saltarán como novedad a la biblioteca junto a otras cuatro publicaciones, entre ellas la taurina Eh toro.

Las dos publicaciones que protagonizan el polémico canje siguen las llamadas Normas de El Puig, creadas por quienes consideran el valenciano como una lengua independiente del catalán, “cuando la realidad es que el 90% del léxico usado por valencianos y catalanes es común, lo que convierte al catalán es una de las lenguas más unificadas del mundo románico”, detalla el escritor y doctor en Filologia Catalana Joan Garí. “Estas normas lingüísticas —en alusión a las de El Puig— son una ficción”, añade, mientras resalta el ejemplo plasmado en una de las revistas, que suple el normativo articles por artículs, “haciendo un híbrido entre el castellano y el catalán, una especie de patués”.

Tanto ruido para parir un ratón:  entran dos nuevas, y salen cinco. Probablemente con ahorro de fondos. Nada obsta para que estas revistas entren por donación, por ejemplo. Pero parece ser que lo importante es pagar la suscripción, según se ve en El País. El resto está en sus propias palabras: la unificación bajo el catalán.

En fin, este es el estilo de lo que mi alerta de Google sobre la Real Academia de la Cultura Valenciana me entrega en cada recopilación. Raramente se verán notas directas sobre o a los académicos de la RACV,

Sobre lingüística e historia, habrá que volver pronto.

 Nota a dos días:

No deja de ser más que ilustrativo ver el contenido de las publicaciones descartadas:

Camacuc, revista para niños.

Cavall Fort, revista para niños.

El Temps, semanario valenciano.

Enderrock, mensuario catalán especializado en musica en catalán.

Llengua Nacional, su recorrido es suficiente para conocerla.

Schomberg, Berg y Weber

 

Ese imperio fugaz que fue Austria-Hungría, dejó también algunas de las mejores creaciones de su época,  durante el siglo XIX y aún el siglo XX, en literatura, en pintura o en música. Un caso particular es el de las transcripciones de obras de los Strauss hechas por Arnold Schönberg, Alban Berg, y Anton Webern, reinterpretando para pequeños conjuntos de cámara, los valses de Johann Strauss padre e hijo escritos para grandes orquestas. Se trata de continuidad y cambio: las transcripciones realizadas en los primeros años del siglo veinte le dan un nuevo sentido a la música de los Strauss, ya alejada de su inicial optimismo, alegría y vanidad de las buenas épocas del Imperio. Conocí esas transcripciones hace muchos años, en Radio Nacional de Argentina, que grabé, y tengo la vaga idea de que se trataba de la versión original interpretada por Schömberg, Berg y Webern en 1921, aunque más probablemente se tratara de la versión de los Boston Symphony Chamber Players, o la del Cuarteto Alban Berg, y mi cinta reflejara no lo que fuera, sino lo que hubiera preferido. Por años tuve estas transcripciones en la cinta, hasta que finalmente un día las perdí, al pasar de Chile a España. Y buscando, buscando, un día recuperé la obra gracias a Internet, en una nueva versión austríaca de 2012 que mantiene todo el valor de esas reelaboraciones. Esta versión incluye alguna otra interpretación, y tiene una particularidad que la ambienta de manera única: Los intérpretes ejecutan estas obras en un café vienés, el Sperl, rodeados de los clientes del café, que escuchan y conversan. La revista Ritmo publicaba en 2012 una reseña de esta grabación de The Philharmonics:

Un grupo de músicos de la Orquesta Filarmónica de Viena, como es bien sabido insustituible para hacer sonar e interpretar la música de Johann Strauss, se ha establecido con el nombre “The Philharmonics” y ofrecen aquí, filmadas en un pequeño café vienés lleno de sabor, el Sperl, varias transcripciones –para un conjunto variable, pero siempre ajustado, de instrumentos– de cinco de los más conocidos valses del Rey del género, a los que se añaden tres piezas del famoso y longevo violinista y compositor vienés Fritz Kreisler (1875-1962), una del legendario pianista Leopold Godowsky (1870-1938) y otra del primer violín del grupo, Tibor Kovác (n. 1967). La velada, con parroquianos del café que escuchan más o menos atentos, es absolutamente deliciosa, con una música muy hermosa admirablemente transcrita por tres de los mayores compositores del siglo XX, e interpretada de modo verdaderamente insuperable por los nueve solistas, dicho esto sin la menor exageración: no hay más que comparar con lo mejor que se había escuchado en disco, a saber los Boston Symphony Chamber Players (D.G. 1979) y el Cuarteto Alban Berg con varios invitados (EMI 1994), para darse cuenta de la inocultable superioridad estilística y musical de The Philharmonics, que a una técnica y un dominio de los instrumentos inobjetable añaden un sonido vienés único y un brío y un conocimiento del vals vienés absolutamente incomparables. Si los de Boston ofrecían unas ejecuciones fantásticas, los del Cuarteto y sus amigos defraudaban en unas versiones algo sosas, carentes de gracia y encanto. Las transcripciones, tanto de Schönberg como de sus dos principales alumnos, son modélicas, y realmente sorprende lo poco que pierden con respecto a las versiones orquestales, lo bien que quedan en esas reducidas combinaciones: cuarteto de cuerda, piano y armonio en el Vals del tesoro –Webern–, en Vino, mujeres y canciones –Berg– y en el Vals de las lagunas, y cuarteto, piano, flauta y clarinete en el Vals del Emperador –Schönberg–. Por cierto, en una velada de 1921 fueron interpretados cuatro de los cinco valses aquí incluidos por el gran pianista Eduard Steuermann, por Alban Berg al armonio, Rudolf Kolisch y Schönberg al violín y Webern al violonchelo, entre otros músicos. En las adaptaciones de las demás piezas –las de Kreisler y Godowsky son algo así como la quintaesencia de lo vienés más decadente– han intervenido el famoso contrabajista de la Filarmónica de Viena Ludwig Streicher (1920-2003) y el violinista Kovác, cuyo Yiddische Mame es una especie de “medley” en el que desfilan temas judíos de Mahler y de otras procedencias. Con un sonido y una imagen de primera calidad, es de suponer que en el Blu-Ray correspondiente serán aún mejores.
A.C.A.

Existe una versión reducida de esta sesión (con propiedad, un trailer) en Youtube.