Expertos y autoridades se movilizan ante la irrupci\u00f3n de las redes neuronales en el campo de la biolog\u00eda sint\u00e9tica, una tecnolog\u00eda que podr\u00eda facilitar el desarrollo de biomol\u00e9culas que amenacen la salud global<\/p>\n\n\n\n
Noticia de Antonio Mart\u00ednez Ron<\/strong> (elDiario.es)<\/a><\/p>\n\n\n\n Imagine que tomamos el argumento de las pel\u00edculas Terminator<\/em> y Contagio <\/em>y los combinamos en una sola trama apocal\u00edptica. El resultado ser\u00eda una ficci\u00f3n en la que una inteligencia artificial (IA) dise\u00f1a un nuevo virus letal que pone a la humanidad contra las cuerdas. Esta posibilidad, que hace unos a\u00f1os habr\u00eda sonado estramb\u00f3tica hasta para un t\u00edtulo de serie Z, empieza a preocupar seriamente a autoridades y expertos. El motivo es que los nuevos modelos de inteligencia artificial son capaces de hacer algo que parec\u00eda imposible: dise\u00f1ar nuevas prote\u00ednas que funcionan y que podr\u00edan servir tanto para curar enfermedades como para matar a millones de personas.Dise\u00f1an un virus sint\u00e9tico para llevar terapia g\u00e9nica hasta las c\u00e9lulas<\/a><\/p>\n\n\n\n La velocidad con la que ha avanzado el uso de redes neuronales en biotecnolog\u00eda ha obligado a convocar varias conferencias de bioseguridad y a proponer nuevas regulaciones. En Estados Unidos se ha puesto en marcha la tramitaci\u00f3n de la Ley de Seguridad de S\u00edntesis de Genes<\/em><\/a>,<\/em> que obligar\u00e1 a las empresas a implementar protocolos de detecci\u00f3n<\/a> del uso indebido de estos productos de biolog\u00eda sint\u00e9tica, mientras que la Uni\u00f3n Europea \u2013a pesar de su avanzada legislaci\u00f3n sobre IA\u2013 se est\u00e1 quedando atr\u00e1s a la hora de tomar medidas<\/a>, aunque empieza a recopilar informes para regularlo.<\/p>\n\n\n\n Marc G\u00fcell<\/a>, experto en Biolog\u00eda Sint\u00e9tica de la Universidad Pompeu Fabra (UPF), es miembro del grupo de trabajo de an\u00e1lisis de riesgos biotecnol\u00f3gicos de la UE que elabora uno de estos documentos. \u201cEsto se ha discutido claramente y se ha puesto el \u00e9nfasis en la interacci\u00f3n de IA y biotecnolog\u00eda\u201d, informa a elDiario.es<\/a>. \u201cY nos han hecho trabajar bastante r\u00e1pido, as\u00ed que supongo que tienen intenci\u00f3n de ponerse las pilas\u201d.<\/p>\n\n\n\n Se ha puesto el \u00e9nfasis en la interacci\u00f3n de IA y biotecnolog\u00eda y nos han hecho trabajar bastante r\u00e1pido, as\u00ed que supongo que tienen intenci\u00f3n de ponerse las pilas<\/p>\nMarc G\u00fcell<\/strong>\u00a0\u2014\u00a0Experto en Biolog\u00eda Sint\u00e9tica de la Universidad Pompeu Fabra y miembro del grupo de an\u00e1lisis de riesgos biotecnol\u00f3gicos de la UE<\/cite><\/blockquote>\n\n\n\n El laboratorio de G\u00fcell trabaja dise\u00f1ando estas prote\u00ednas y secuencias de ADN, por lo que conoce bien los mecanismos y los posibles riesgos. \u201cHasta ahora los bi\u00f3logos sint\u00e9ticos nos inspir\u00e1bamos en la naturaleza y b\u00e1sicamente reutiliz\u00e1bamos cosas que ya exist\u00edan\u201d, explica. \u201cPero ahora por primera vez s\u00ed que tenemos la capacidad de generar prote\u00ednas sint\u00e9ticas que cumplen con la biolog\u00eda pero no existen, con un sistema parecido a ChatGPT, que hace frases sint\u00e9ticas que no ha hecho ning\u00fan humano pero cumplen las reglas de la sem\u00e1ntica\u201d. <\/p>\n\n\n\n El especialista se refiere a sistemas como ProtGPT2<\/a>, que ya se usa para el dise\u00f1o experimental de prote\u00ednas y est\u00e1 encabezando una revoluci\u00f3n biotecnol\u00f3gica. \u201cSiempre se dice que un ingeniero aeron\u00e1utico dise\u00f1a un avi\u00f3n y vuela; en biolog\u00eda no pod\u00edamos hacer esto, hay que probar y probar\u201d, relata G\u00fcell. \u201cPero, claro, con este ChatGPT que habla [idioma] prote\u00edna <\/em>empieza a parecer posible, y de hecho es algo que estamos haciendo en el laboratorio y que va a llegar\u201d. Y esta posibilidad que abre la tecnolog\u00eda de \u201cinventar\u201d una nueva biolog\u00eda tiene unos riesgos impl\u00edcitos aterradores. <\/p>\n\n\n\n \u00bfDe qu\u00e9 peligros estamos hablando? \u201cSi tuviera que hacer un r\u00e1nking de riesgos \u2014indica G\u00fcell\u2014 pondr\u00eda arriba del todo la posibilidad de hacer virus, un covid sint\u00e9tico m\u00e1s sofisticado, por ejemplo, o con partes m\u00e1s sofisticadas. Esto no s\u00e9 si puede pasar ma\u00f1ana, en un a\u00f1o o en tres, pero claramente es algo que no est\u00e1 muy lejos a nivel de t\u00e9cnica\u201d. \u201cEstamos hablando de la posibilidad de dise\u00f1ar, por ejemplo, una mol\u00e9cula que interfiera con la cadena respiratoria de las mitocondrias (nuestra gasolina, la fuente de energ\u00eda) o una mol\u00e9cula que interfiera con la comunicaci\u00f3n sin\u00e1ptica entre neuronas, como hacen los gases nerviosos como el gas sar\u00edn, ser\u00edan venenos peligros\u00edsimos y toxiqu\u00edsimos que provocar\u00edan la muerte por colapso de forma inmediata\u201d, enumera Lluis Montoliu<\/a>, genetista e investigador del CNB-CSIC. <\/p>\n\n\n\n Si tuviera que hacer un r\u00e1nking de riesgos pondr\u00eda arriba del todo la posibilidad de hacer virus, un covid sint\u00e9tico m\u00e1s sofisticado. Es algo que no est\u00e1 muy lejos a nivel de t\u00e9cnica<\/p>\nMarc G\u00fcell<\/strong>\u00a0\u2014\u00a0Experto en Biolog\u00eda Sint\u00e9tica de la Universidad Pompeu Fabra (UPF)<\/cite><\/blockquote>\n\n\n\n \u201cSi t\u00fa puedes seleccionar prote\u00ednas o, mejor dicho, secuencias gen\u00e9ticas de ADN que codifiquen eventualmente para prote\u00ednas que tengan una finalidad beneficiosa, \u00bfpor qu\u00e9 no pensar que lo mismo lo puedes hacer para generar una prote\u00edna que sea una enzima clave que rompa una ruta metab\u00f3lica y cause un estropicio celular y que sea absolutamente t\u00f3xica?\u201d, insiste Montoliu. \u201c\u00bfO sintetizar una mol\u00e9cula que bloquee alg\u00fan receptor de membrana y que, en lugar de curar o de facilitar o mejorar la vida para los enfermos de una determinada enfermedad, lo que haga es provocar esa enfermedad o incluso provocar la muerte?\u201d. \u201cDespu\u00e9s del covid, ha quedado claro que el potencial destructivo de la biolog\u00eda es indudable\u201d, a\u00f1ade G\u00fcell. \u201cHemos tenido millones de muertos por un trozo de ARN dando vueltas por el mundo\u201d. <\/p>\n\n\n\n Todos estos escenarios que parecen fantasiosos y catastrofistas se convirtieron en una posibilidad real en 2020, cuando dos investigadores de la empresa Collaborations Pharmaceuticals<\/em>, Sean Ekins y Fabio Urbina, se preguntaron qu\u00e9 pasar\u00eda si pon\u00edan a la inteligencia artificial a trabajar para el mal. Para ello, tomaron la red neuronal MegaSyn, que estaban utilizando para dise\u00f1ar f\u00e1rmacos, y cambiaron un solo par\u00e1metro: en lugar de buscar productos que no da\u00f1aran la salud humana, probaron qu\u00e9 pasaba si le ped\u00edan a la IA que seleccionara las combinaciones t\u00f3xicas<\/a>. En solo unos minutos, y con un ordenador de sobremesa, la IA les arroj\u00f3 una lista de 40.000 mol\u00e9culas que eran tan t\u00f3xicas o m\u00e1s que el compuesto VX<\/a>, uno de los m\u00e1s letales que se ha sintetizado nunca.<\/p>\n\n\n\n En una hora, los chatbots sugirieron cuatro posibles pat\u00f3genos pand\u00e9micos e identificaron protocolos para iniciar una pandemia<\/p>\n<\/blockquote>\n\n\n\n M\u00e1s recientemente, en junio de 2023, un equipo del MIT encabezado por Kevin M. Esvelt<\/a> encarg\u00f3 a un grupo de estudiantes no cient\u00edficos que investigaran si se podr\u00eda solicitar a un modelo de lenguaje LLM, como ChatGPT, que les ayudara a provocar una pandemia. \u201cEn una hora, los chatbots sugirieron cuatro posibles pat\u00f3genos pand\u00e9micos, explicaron c\u00f3mo se pueden generar a partir de ADN sint\u00e9tico utilizando gen\u00e9tica inversa, proporcionaron los nombres de empresas de s\u00edntesis de ADN que probablemente no examinar\u00edan los pedidos, identificaron protocolos detallados y c\u00f3mo solucionarlos\u201d, explicaron los investigadores en su art\u00edculo con los resultados<\/a>. Acababan de demostrar que los modelos como ChatGPT no solo pueden dise\u00f1ar prote\u00ednas, sino que a nivel de usuario pueden guiar la actuaci\u00f3n de alguien que desee aplicar estas mol\u00e9culas para hacer da\u00f1o. <\/p>\n\n\n\n En un art\u00edculo editorial<\/a> publicado recientemente en la revista Science<\/em>, dos grandes nombres de la biotecnolog\u00eda \u2013el bioqu\u00edmico David Baker<\/a> y el genetista George Church<\/a>\u2013 abordan la posibilidad de que estas herramientas se utilicen con malas intenciones y apuntan a posibles soluciones. En el texto, Baker y Church ponen el foco en que \u201cesta tecnolog\u00eda es vulnerable al mal uso y a la producci\u00f3n de agentes biol\u00f3gicos peligrosos\u201d y proponen \u201cuna pol\u00edtica de detecci\u00f3n y registro de todas las secuencias gen\u00e9ticas sintetizadas\u201d. Se trata, en definitiva, de que las principales empresas que son capaces de sintetizar estas mol\u00e9culas les coloquen una especie de \u201cmarca de agua\u201d que sirva para identificar el origen de posibles malos usos y que funcione como barrera disuasoria para quienes quieran utilizarlas con malas intenciones. <\/p>\n\n\n\n Como recuerdan Baker y Church, las empresas de este sector siguen de forma voluntaria la regulaci\u00f3n propuesta por el Consorcio Internacional de S\u00edntesis Gen\u00e9tica<\/a> (IGSC) desde 2004. Esto se traduce en que, cuando reciben un encargo para sintetizar una mol\u00e9cula, lo contrastan con una base de datos para descartar que se trate de un agente peligroso. Ahora mismo, explica G\u00fcell, la s\u00edntesis de genes est\u00e1 muy centralizada en unos pocos productores, alrededor de una decena de empresas en Asia y EEUU. \u201cY son ellas las que act\u00faan de filtro, cuando les mandas secuencias y quieres sintetizar un gen, ellos lo miran y contrastan con sus bases de datos y si sale una posible toxina, un virus o algo sospechoso, no lo sintetizan y te piden explicaciones\u201d, confirma. <\/p>\n\n\n\n Los autores de este art\u00edculo editorial proponen ir m\u00e1s all\u00e1 y sistematizar un registro para la creaci\u00f3n de todo material sint\u00e9tico, una medida que no ser\u00e1 suficiente para impedir el mal uso de esta tecnolog\u00eda, a juicio de G\u00fcell. \u201cYo, personalmente, veo muy dif\u00edcil de implementar el control\u201d, afirma. \u201cCreo que hay que ir en la direcci\u00f3n que apuntan, porque no veo otra manera de que esta tecnolog\u00eda se canalice para un uso no malicioso, pero es verdad que es muy dif\u00edcil, porque \u00bfc\u00f3mo vamos a convencer a todas las empresas que venden estas herramientas de que cumplan las normas? Adem\u00e1s, tambi\u00e9n se venden sintetizadores de ADN m\u00e1s sencillos, y con ellos un ingeniero bien equipado y con un presupuesto puede hacer cosas\u201d.<\/p>\n\n\n\n Una soluci\u00f3n ser\u00eda que todas las secuencias generadas por IA incorporaran un c\u00f3digo espec\u00edfico y \u00fanico cuando son sintetizadas<\/p>\nGemma Marfany<\/strong>\u00a0\u2014\u00a0Catedr\u00e1tica de Gen\u00e9tica de la Universidad de Barcelona (UB)<\/cite><\/blockquote>\n\n\n\n Para Gemma Marfany<\/a>, catedr\u00e1tica de Gen\u00e9tica de la Universidad de Barcelona (UB), la soluci\u00f3n de un registro obligatorio tiene sentido. \u201cPara garantizar la bioseguridad de estas mol\u00e9culas y su trazabilidad, una soluci\u00f3n ser\u00eda que todas las secuencias generadas por IA incorporaran un c\u00f3digo espec\u00edfico y \u00fanico cuando son sintetizadas, y que todas est\u00e9n registradas en repositorios obligatorios\u201d, afirma. \u201cPero si no s\u00e9 de la existencia de estas secuencias, dif\u00edcilmente el hecho de que las deposite en una base de datos me va a permitir asociarlas con peligro si no es que voluntariamente quien las haya creado las deposita con una etiqueta y alerta al resto de las personas\u201d, advierte Montoliu. \u201cEsperar que todo el mundo vaya a seguir por el camino recto, y que nadie vaya a utilizarlo mal, probablemente sea una ingenuidad\u201d.<\/p>\n\n\n\n Alfonso Valencia<\/a>, director del departamento de Ciencias de la Vida en el Centro Nacional de Supercomputaci\u00f3n de Barcelona y del Instituto Nacional de Bioinform\u00e1tica, es m\u00e1s optimista y cree, como dicen los autores del art\u00edculo, que \u201cla complejidad biol\u00f3gica hace que sea muy improbable que se pueda crear un agente peligroso en un solo intento\u201d. A su juicio, hoy por hoy no hay un escenario real para que esto sea posible. \u201cEl bioterrorismo como en las pel\u00edculas no es factible en la realidad \u2013subraya\u2013, pero s\u00ed es necesario ajustar las medidas que ya existen\u201d.\u00a0<\/p>\n\n\n\n El bioterrorismo como en las pel\u00edculas no es factible en la realidad, pero s\u00ed es necesario ajustar las medidas que ya existen<\/p>\nAlfonso Valencia<\/strong>\u00a0\u2014\u00a0Director del departamento de Ciencias de la Vida en el Centro Nacional de Supercomputaci\u00f3n de Barcelona y del Instituto Nacional de Bioinform\u00e1tica<\/cite><\/blockquote>\n\n\n\n Uno de los riesgos de los que m\u00e1s se ha hablado es la posibilidad de sintetizar una prote\u00edna parecida a la spike<\/em> del SARS-CoV-2, recuerda, pero por fortuna los nuevos m\u00e9todos de IA permiten predecir y sintetizar nuevas prote\u00ednas, pero no dotarlas de propiedades espec\u00edficas. \u201cEs decir, a d\u00eda de hoy no es posible sintetizar una nueva prote\u00edna que funcione como la prote\u00edna de spike<\/em> sin parecerse a ella\u201d, sentencia. \u201cAl menos no con los m\u00e9todos conocidos y sin una gran inversi\u00f3n combinando computaci\u00f3n y experimentaci\u00f3n\u201d.<\/p>\n\n\n\n El problema que queda por resolver, advierte Valencia, es c\u00f3mo se detectar\u00e1 el nivel de peligrosidad de nuevas construcciones que no se parezcan a nada conocido. \u201cEl argumento de Baker y Church, que me parece acertado, es que el propio hecho de registrar las construcciones disminuir\u00e1 el riesgo, adem\u00e1s de hacer posible trazar el origen de las construcciones\u201d. En cualquier caso, concluye, est\u00e1 claro que se debe continuar trabajando para evitar este tipo de escenarios.<\/p>\n","protected":false},"excerpt":{"rendered":" Expertos y autoridades se movilizan ante la irrupci\u00f3n de las redes neuronales en el campo de la biolog\u00eda sint\u00e9tica, una tecnolog\u00eda que podr\u00eda facilitar el desarrollo de biomol\u00e9culas que amenacen la salud global Noticia de Antonio Mart\u00ednez Ron (elDiario.es) Imagine … Sigue leyendo \n
Los riesgos reales<\/strong><\/h3>\n\n\n\n
\n
La \u2018caja de Pandora\u2019<\/strong><\/h3>\n\n\n\n
\n
Un registro del material sint\u00e9tico<\/strong><\/h3>\n\n\n\n
\n
\n