Augusto Nicola
Augusto Nicola

Hola, soy Augusto Nicola

Investigador en AI Safety · Desarrollador de Software

Soy Licenciado en Ciencias de la Computación por la Universidad de Buenos Aires y aspirante a investigador en AI Safety; actualmente investigo en los programas SPAR y AI Safety Argentina. Antes de eso, trabajé tres años como desarrollador de software.
¡Siempre estoy dispuesto a charlar sobre nuevas oportunidades!

Sobre Mí

Quién soy

Me llamo Augusto, tengo 23 años y vivo en Olivos, Gran Buenos Aires. Soy Licenciado en Ciencias de la Computación por la Facultad de Ciencias Exactas y Naturales (UBA), y estoy convencido de que la seguridad de la IA (AI Safety) es uno de los problemas más urgentes que enfrentamos hoy. Por eso, estoy orientando mi carrera para convertirme en investigador en Technical AI Safety.

Mi tesis de grado estudió qué tan estables son los sistemas de valores de los LLMs, y actualmente trabajo en proyectos de investigación sobre psicología de modelos e interpretabilidad de horizontes de planificación. Mis principales áreas de interés son la Interpretabilidad Mecanística, los Frameworks de Evaluación y el Desarrollo de Modelos. Además, realicé varios cursos técnicos, sigo estudiando de forma independiente, y participo activamente en la comunidad local de AI Safety.

Antes de dedicarme a la investigación, trabajé tres años como desarrollador de software, principalmente en desarrollo web full-stack y orquestación de contenedores, con tecnologías como PHP, Laravel, Angular, Kubernetes, Docker y Prometheus. Disfruto de trabajar en equipo, aprender cosas nuevas, enseñar, y enfrentarme a problemas complejos.

¡Siempre estoy dispuesto a charlar sobre nuevas oportunidades!

Mis herramientas

IA y Machine Learning

Python

PyTorch

TensorFlow

NumPy

Hugging Face

Matplotlib

OpenCV

Orquestación de Contenedores

Docker

Kubernetes

Prometheus

Grafana

Alertmanager

Web Backend

Logomark

Laravel

PHP

Node.js

MongoDB

SQL

Web Frontend

React.js

Angular.js

JavaScript

HTML

CSS

SASS

TailwindCSS

General

C++

Linux

Git

GitHub

Atlassian

InvestigaciónMi trabajo busca entender qué valoran los modelos de lenguaje, qué tan estables son esos valores, y qué revelan sus representaciones internas sobre cómo planifican.

DestacadoTesis de grado · FCEN-UBA · 2026

Value Systems in LLMs

Effects of Paraphrasing and Profile Elicitation on Decision-Making Consistency and Robustness

Si los modelos de lenguaje tienen valores reales es un tema en discusión. Mi tesis plantea una pregunta más abordable: ¿tienen valores estables? Crucé diez perturbaciones de prompt que preservan el significado (errores de tipeo, negación, paráfrasis, traducción, opciones invertidas...) con catorce perfiles de personalidad elicitados, basados en los Big Five, los valores básicos de Schwartz y la Teoría de Fundamentos Morales, y medí qué tan consistentes y robustas se mantenían las decisiones morales de los modelos.

Proyectos actuales

SPAR

Supervised Program for Alignment Research

En cursoCohorte de otoño 2026

Planning Temporal Manifolds

¿Es posible leer qué tan a futuro está planificando un modelo de lenguaje directamente desde sus activaciones? Trabajos previos encontraron que los horizontes temporales, de segundos a siglos, forman una variedad ordinal en el residual stream durante decisiones individuales. Este proyecto pone a prueba si esa geometría persiste durante la planificación en varios pasos: un primer paso hacia monitorear y dirigir el horizonte de planificación de agentes de IA, relevante tanto para fallas miopes como para el scheming.

Propuesta del proyecto

AISAR

Beca AI Safety Argentina

En cursoBeca 2026

Psicología y Coherencia de Modelos

Experimentos para modelar mejor la psicología de los LLMs: ¿un modelo es una única persona que actúa bajo distintos roles, un mecanismo de selección de personas, o un shoggoth con máscaras? Estudio la coherencia y variabilidad de las preferencias de los modelos a distintos niveles: elicitación de perfiles en modelos pretrained frente a modelos helpful-only, si la persona que escribe el chain of thought es distinta a la que escribe la respuesta, y la brecha entre preferencias declaradas y comportamiento real cuando las decisiones tienen consecuencias concretas.

Sobre AISAR

FormaciónEl camino que me trajo a AI Safety.

  1. 2026 — Presente

    Estudio individual del material de ARENA

    Autodidacta

    Desarrollo de habilidades de investigación y conocimiento técnico a través del material de alineamiento de ARENA.

  2. 2026

    Curso "Technical AI Safety"

    BlueDot Impact · Cohorte remota

    Estudié enfoques técnicos para reducir el riesgo de sistemas de IA avanzados, incluyendo técnicas de alineamiento, evals y AI control. Afiné mi criterio de investigación, intuiciones y objetivos junto a personas motivadas de todo el mundo.

  3. 2021 — 2026

    Licenciatura en Ciencias de la Computación

    FCEN, Universidad de Buenos Aires · Promedio 9,35/10

    Orientación en Inteligencia Artificial. Mi tesis de grado sobre evals y sistemas de valores en LLMs fue mi primer paso en la investigación en AI Safety.

  4. 2025

    Curso "AI Alignment"

    BlueDot Impact · Facilitado por BAISH en FCEN-UBA

    Mi primer acercamiento profundo a AI Safety, y a su comunidad local.

  5. 2022 — 2025

    Jr. Full-stack Developer y Sysadmin

    WillDom · Tiempo medio

    Experiencia real trabajando en equipo y administrando una plataforma web en producción, desde funcionalidades full-stack hasta infraestructura en Kubernetes.

CV y One-pagerMi one-pager es un resumen rápido de mi camino en AI Safety; mi CV tiene el panorama completo. Ambos están siempre actualizados en Google Docs.

One-pager

Una sola página sobre mi investigación, formación e intereses en AI Safety.

AbrirEnglish version