Ciberseguridad
ciber seguro
febrero 21, 2025
Los gigantes tecnológicos Microsoft y Meta han dado un paso audaz y significativo en el campo de la Inteligencia Artificial (IA) con el lanzamiento de su último proyecto: “Llama2”. En un emocionante anuncio, revelaron que es un sistema de IA de código abierto que estará disponible para uso comercial y de investigación, este nuevo avance ha captado la atención de expertos en el ámbito de la IA, así como de la comunidad tecnológica en general, como código abierto promete un enfoque colaborativo y accesible para acelerar el desarrollo de la IA en diversos sectores industriales.
– Llama 2, la próxima generación de nuestro modelo de lenguaje grande de código abierto.
– Llama 2 es gratuito para investigación y uso comercial.
– Microsoft y Meta están ampliando su asociación de larga data, con Microsoft como socio preferido para Llama 2.
– Estamos abriendo el acceso a Llama 2 con el apoyo de un amplio conjunto de empresas y personas en tecnología, academia y política que también creen en un enfoque de innovación abierta para las tecnologías de IA de hoy.
– Estamos comprometidos a construir de manera responsable y brindamos recursos para ayudar a quienes usan Llama 2 a hacerlo también.
La IA se ha convertido en una herramienta esencial en la
transformación digital de empresas, gobiernos y organizaciones en todo el
mundo, con “Llama2”, buscan democratizar aún más la IA,
permitiendo que tanto desarrolladores como investigadores aprovechen este
sistema para crear soluciones innovadoras que beneficien a la sociedad en su
conjunto.
El equipo detrás de “Llama2” ha trabajado
arduamente para asegurar que el sistema sea de fácil implementación, con una
arquitectura flexible y escalable, esto permitirá a las empresas adoptar
rápidamente la IA en sus operaciones diarias y abrirá nuevas posibilidades para
mejorar la eficiencia, la precisión y la toma de decisiones en una amplia
variedad de campos, desde la atención médica hasta la logística y el sector
financiero.
La comunidad de desarrolladores y científicos también se
beneficiará enormemente de este enfoque de código abierto. Al tener acceso a
“Llama2”, los investigadores tendrán la oportunidad de explorar
nuevos horizontes en el campo de la IA, desarrollar algoritmos más avanzados y
probar diferentes enfoques para resolver problemas complejos. En palabras de Satya Nadella, CEO de Microsoft:
“Creemos que la IA es una tecnología transformadora que debe estar al
alcance de todos. Con ‘Llama2’, queremos brindar las herramientas necesarias
para que todos los interesados puedan contribuir al avance de la IA y, en
última instancia, mejorar la vida de las personas”.
La firma de Mark Zuckerberg anunció la disponibilidad de su nuevo modelo de IA durante el evento Inspire, de Microsoft. Y no es casualidad que haya ocurrido allí, ya que ambas compañías se aliaron para brindar acceso a LLaMA 2 por medio de Azure AI.
Creemos que un enfoque abierto es el adecuado para el desarrollo de los modelos de IA actuales, especialmente aquellos en el espacio generativo donde la tecnología avanza rápidamente. Al hacer que los modelos de IA estén disponibles abiertamente, pueden beneficiar a todos. Brindar a las empresas, nuevas empresas, emprendedores e investigadores acceso a herramientas desarrolladas a una escala que sería un desafío construir por sí mismos, respaldadas por un poder informático al que de otro modo no podrían acceder, les abrirá un mundo de oportunidades para experimentar, innovar de maneras emocionantes y, en última instancia, beneficiarse económica y socialmente.
Y creemos que es más seguro. Abrir el acceso a los modelos de IA de hoy significa que una generación de desarrolladores e investigadores pueden probarlos, identificando y resolviendo problemas rápidamente, como comunidad. Al ver cómo otros utilizan estas herramientas, nuestros propios equipos pueden aprender de ellas, mejorar esas herramientas y corregir vulnerabilidades.
Meta ha puesto la investigación exploratoria, el código abierto y la colaboración con socios académicos y de la industria en el centro de nuestros esfuerzos de IA durante más de una década. Hemos visto de primera mano cómo la innovación abierta puede conducir a tecnologías que benefician a más personas. Ya se han lanzado docenas de modelos de lenguaje grande y están impulsando el progreso de los desarrolladores e investigadores. Están siendo utilizados por las empresas como ingredientes centrales para nuevas experiencias generativas impulsadas por IA. Nos ha sorprendido la gran demanda de Llama 1 por parte de los investigadores, con más de 100 000 solicitudes de acceso al modelo de lenguaje grande, y las cosas increíbles que han logrado al construir sobre él.
Ahora estamos listos para abrir el código fuente de la próxima versión de Llama 2 y la estamos poniendo a disposición de forma gratuita para investigación y uso comercial. También incluimos pesos de modelo y código de inicio para el modelo preentrenado y versiones conversacionales ajustadas. Como Satya Nadella anunció en el escenario de Microsoft Inspire, estamos llevando nuestra asociación al siguiente nivel con Microsoft como nuestro socio preferido para Llama 2 y ampliando nuestros esfuerzos en IA generativa. A partir de hoy, Llama 2 está disponible en el catálogo de modelos de Azure AI, lo que permite a los desarrolladores que usan Microsoft Azure crear con él y aprovechar sus herramientas nativas de la nube para el filtrado de contenido y las funciones de seguridad. También está optimizado para ejecutarse localmente en Windows, lo que brinda a los desarrolladores un flujo de trabajo fluido a medida que brindan experiencias generativas de inteligencia artificial a los clientes en diferentes plataformas. Llama 2 está disponible a través de Amazon Web Services (AWS), Hugging Face y otros proveedores también.
“Nuestro enfoque de código abierto promueve la transparencia y el acceso. Sabemos que, si bien la IA ha traído grandes avances a la sociedad, también conlleva riesgos. Estamos comprometidos a construir de manera responsable y brindamos una serie de recursos para ayudar a quienes usan Llama 2 a hacerlo también”.
Ejercicios de red team: Nuestros modelos perfeccionados han sido probados en equipo rojo (probados por seguridad) a través de esfuerzos internos y externos. El equipo trabajó para generar indicaciones antagónicas para facilitar el ajuste fino del modelo. Además, encargamos a terceros que realizaran pruebas adversas externas en nuestros modelos ajustados para identificar de manera similar las brechas en el rendimiento. Estos procesos de ajuste de seguridad son iterativos; Continuaremos invirtiendo en seguridad a través de ajustes y evaluaciones comparativas y planearemos lanzar modelos ajustados actualizados basados en estos esfuerzos.
Esquema de transparencia: explicamos nuestros métodos de ajuste y evaluación del modelo e identificamos sus deficiencias. Nuestro esquema de transparencia, que se encuentra dentro del documento de investigación, revela los desafíos y problemas conocidos que hemos experimentado y brinda información sobre las mitigaciones tomadas y las futuras que tenemos la intención de explorar.
Guía de uso responsable: creamos esta guía como un recurso para apoyar a los desarrolladores con las mejores prácticas para el desarrollo responsable y las evaluaciones de seguridad. Describe las mejores prácticas que reflejan la investigación actual y de vanguardia sobre IA generativa responsable discutida en toda la industria y la comunidad de investigación de IA.
Política de uso aceptable: implementamos una política que prohíbe ciertos casos de uso para ayudar a garantizar que estos modelos se usen de manera justa y responsable.
Meta también ha creado nuevas iniciativas para aprovechar el conocimiento y la creatividad de personas, investigadores y desarrolladores de todo el mundo para obtener comentarios sobre el rendimiento de los modelos y cómo se pueden mejorar.
Comunidad de investigación de IA de innovación abierta: hoy, también lanzamos un nuevo programa de asociación para investigadores académicos que tiene como objetivo profundizar nuestra comprensión del desarrollo responsable y el intercambio de grandes modelos de lenguaje. Los investigadores pueden postularse para unirse a una comunidad de profesionales para compartir aprendizajes sobre este importante tema, y la comunidad formará una agenda de investigación para seguir adelante.
Llama Impact Challenge: Queremos activar la comunidad de innovadores que aspiran a usar Llama para resolver problemas difíciles. Estamos lanzando un desafío para alentar a un conjunto diverso de entidades públicas, sin fines de lucro y con fines de lucro a usar Llama 2 para abordar desafíos ambientales, educativos y otros importantes. Las reglas del desafío estarán disponibles previo al inicio del mismo.
A lo largo de la historia de nuestra empresa, hemos experimentado los beneficios de un enfoque de código abierto al innovar en otras áreas del negocio. Nuestros ingenieros desarrollaron y compartieron marcos que ahora son estándares de la industria, como React, un marco líder para crear aplicaciones web y móviles, y PyTorch, que ahora es el marco líder para IA. Estos se convirtieron en infraestructura de uso común para toda la industria de la tecnología. Creemos que compartir abiertamente los grandes modelos de lenguaje actuales también apoyará el desarrollo de una IA generativa útil y más segura.
Referencias:
