Justicia descentralizada por Kleros: Libertad de expresión y moderación en redes sociales

Transcript

[Música] [Música] G

[Música] [Música] bu [Música] [Música] buenas buenas Cómo están Hola gracias

por venir hoy Hola Qué tal cómo están un gusto Un gusto tenerte acá de vuelta hace bastante que no venís a visitarnos Así que arrancamos el año con un con un lindo space con un lindo YouTube Live básicamente no sé si no sé si te agarró la lluvia por acá pero bueno ahora poniéndole onda A este miércoles lluvioso les Quería dar aprovecho para darle la bienvenida a todos hoy tenemos un streaming con Federico as founder de cleros eh vamos a charlar sobre moderación de contenidos en redes sociales y n y me pregunto e una una vez que fe hace unas semanas

me pasó un link de una charla que dio en itc y me pregunté cómo moderar sin centralizar y Cómo proteger la libertad de expresión hoy fe nos va a contar un poquito de qué se trata Y cómo utilizar la tecnología eh Para justamente eh proteger eh y moderar en redes sociales y especialmente les va a ser útil a comunidades que se autogestion así que bueno fe un gusto y te doy la palabra Bueno gracias por la invitación y un gusto estar acá de nuevo con ustedes y hablar de un tema que del que nunca hablé realmente en español todavía lo hace tiempo que nosotros investigamos temas de contenidos y Cómo usar cleros

para moderación de contenidos y todo esto porque digamos que son las nuevas redes las que nos comunicamos y que controla como se han dado cuenta Iron Mask habla todo el tiempo de esto no que controla la censura en una red social controla la comunicación y controla el poder en el fondo entonces e antes comp porque el público siempre se renueva queres contar de qué se trata brevemente cleros Y por qué es que están haciendo esta investigación sobre en redes sociales justamente en el contexto tiene totalmente sentido si estuvieron update andose las últimas noticias lo voy a contar en parte en la charla Así que es parte de la presentación está todo pensado AC No te

preocupes lo que no sé es Cómo empezar a compartir ven la pantalla Ahí está perfecto Bueno ahí vamos Bueno e primero lo que me gustaría es que se entienda cuál es el problema que que hay acá realmente y para eso los llevo a esta a esta Isla paradisíaca esto es la Polinesia eh acá el 6 de enero del 2020 Jack dorsey estaba de vacaciones en un spa Resort de millonarios dor como saben es el fundador de Twitter y a la madrugada lo despierta un llamado telefónico que le dice mira tenemos un problema hay bueno 6 de

enero de 2020 se acordarán algunos que fue el famoso día en que la gente empezó a tomar el congreso de Estados Unidos después la elección y bueno todo lo que ustedes saben y eh la persona que nos llamaba en la madrugada era la directora de legales de la empresa y le decía Mira tenemos un problema tenemos a Trump que está teteando cosas eh problemáticas cosas que están eh faciendo la violencia a través de Twitter estas eh tweets e violan a nuestro entender las normas de servicio pero no queríamos tomar una decisión sin antes consultarle digamos no porque bueno imagínense pres de Estados Unidos está eh tomar esta

decisión era una eh situación obviamente de muchísima responsabilidad Así que a esa en esa madrugada hac una reunión de urgencia o sea Jack dorsy con todo su equipo directivo y ahí eh deciden eh borrar estos famosos tweets de de Trump eh por violación de las normas de comunidad sí y imagínense la furia que le agarró a Trump cuando ve que le borraron su sus tweets y como bueno empezó a ttear de nuevo y bueno fue un colapso en un momento en el cual Estados Unidos estaba en una situación muy delicada y gente que pensaba que empezaba la guerra civil

todo eso no Y si les interesa entender un poco más Cómo se decidió esto hay un buen artículo del New York Times Twitter decision to Cut of Trump que explica todo esta todo este este proceso de de toma de decisión de una situación de mucha tensión no así que Les recomiendo esto Entonces esto es una una buena forma de entrar en lo que es esta esta temática por supuesto a ustedes no tengo que explicarles que cada vez más gente está en redes sociales cada vez más parte de la comunicación eh humana pasa por estas redes y Esto empezó a generar obviamente un montón de de cuestionamientos sobre cómo la comunicación en redes eh afecta a la democracia no en el fondo si vieron

por ejemplo brexit la película de de cumberbatch como la estrategia de redes sociales que permitió que haya una Bueno un movimiento que terminó lo que fue el brexit hay varios libros que hablan sobre estos temas sobre cómo la gente se polariza a través de redes sociales como genera una mayor conflictividad social Incluso en caso de extremos como pasó en mianmar por ejemplo eh digamos hay gente que acusa a a Facebook de haber sido un elemento que propició el desarrollo una guerra civil incluso a través de la la comunicación con las bueno de la gente este libro les explica bastante bien

este a Machine como la tecnología todas las redes Cómo generan bueno todas estas situaciones de Furia que que bueno afectan la forma en que nos comunicamos y la forma que nos relacionamos la forma que en el fondo que convivimos no Y eso nos lleva a pensar en cuál es el poder que tiene la gente de controla estas empresas no estas empresas se controlan tantas Fuentes tanta comunicación que digamos una empresa que te borre tu cuenta o que te haga un Shadow B en el sentido de que no te vean más tweets te afecta realmente Entonces ya des hace un tiempo empezó a haber un movimiento de las empresas mismas en particular Facebook que hace unos años

lanzó una iniciativa para crear una una Corte Suprema para tomar decisiones de contenido Facebook por supuesto tiene un montón de contenidos miles de millones de de post que se hacen en cada cada minuto no y el problema era que Zuckerberg Los Altos directivos no querían tener responsabilidad de decidir ellos no que qu contenido bajar Y qué contenido no bajar Sabiendo lo que había pasado con con dorsy en el caso de Twitter no Y esta persona que V en pantalla voy a contar un poco Cómo empezó la idea esta Corte Suprema de de Facebook este señor que en pantalla noah felman es un

abogado constitucionalista de de Harvard y el tipo Este era el fue compañero de universidad de la que Ven al lado que es sandberg que era una de las altos ejecutivos de Facebook de de operaciones y él en un momento estaba en de viaje visita en silicon Valley no en la casa parando en la casa de ella y se pueden hablar del tema de contenido redes sociales y eh ella le cuenta los problemas que tienen de moderación y él le dice claro ustedes lo que necesitan es una Corte Suprema que tome decisiones neutrales sobre qué contenidos permitir Y qué contenidos no permitir sea un ente externo a Facebook que no dependa de o

sea de Zuckerberg y que DEA que tenga posibilidad de decidir qué contenido aceptar y cuál no cuando empiezan a poner en marcha esto eh una de las personas que ellos quieren para la corte est eligen un conjunto de de expertos en temas de derecho ética bueno temas diferentes y y esto empieza a subir la cantidad de digamos el voltaje esto porque empieza a haber como mucha política y mucha rosca sobre A quién ponemos en la Corte Suprema que va decidir qué contenido permitir y que no y hubo un caso bastante polémico en relación con esta mujer que V acá Pamela carlan que era una profesora de Stanford

y es una candidata para ser eh parte de la Corte Suprema de Facebook y al el gobierno republicano de Trump no le gustaba para nada esta persona porque la veía como muy muy de izquierda para su gusto y Trump llama personalmente a su En aquel momento para pedirle que la baje y que no la no la ponga la Corte Suprema tiene el nivel de de de de tensión política que que había En aquel momento y cuán importante era el control sobre esta corte para que nivel de presidente de Estados Unidos llamen a para tratar de influir a quién se ponía o no en la en la corte no Y una pregunta que se estarán haciendo bueno Qué exactamente qué es lo que decide no van a estar recibiendo cada

post si es spam o si es un Bot son para temas más eh complejos por supuesto y uno de los e post por ejemplo le vo un par de ejemplos no Para que vean como Qué tipo de decisiones toman no uno de los post que se hicieron En aquel momento era de esta chica que decía maten a todos los hombres el post fue removido por un por el moderador de turno por Bueno porque rompía las reglas que pría los ataques de género y entonces una vez removido Eh Esto fue apelado y cuando el post cuando una remoción apelada eh A través de cierto procedimiento

termina yendo a la Corte Suprema de Facebook entonces La pregunta es cuál creen que fue la la decisión de la corte de Facebook eh En este caso lo que se decidió era eh permitir e el contenido y dejarlo dejarlo en la plataforma porque se Consideró que era una cosa humorística y que eh está permitido este tipo de de mensajes siempre y cuando se de en un contexto de de humor otro caso bastante famoso fue de este señor un médico francés llama did raul que cuando estaba en medio del covid él defendía un tratamiento que estaba basado en una cosa llamado hidroxicloroquina que yo no sé bien Qué

es pero que en aquel momento mucha gente pensaba que era una forma de curar el covid y fue denunciado por desinformación Y entonces fue removido hay gente que apeló la remoción y Esto fue de nuevo a la Corte Suprema y la Corte Suprema que decidió eh que se iba a permitir la el post y lo dejaron arriba porque consideraron que era una teoría que era válida que quizás era falsa o no falsa no se sabía todavía pero que eh bajar ese post hubiese sido una violación a las normas de discurso que hac falta para que pueda avanzar la la ciencia entonces se lo dejó arriba y no hubo ningún

problema y después otro caso famoso fue un post de de Trump que fue en el contexto de lo que pasó con eh Black lives mother y los tema de Floyd en el cual hubo unos saqueos en habían empezado a saquear en Estados Unidos había y Elo de post y ahí dijo una frase decía the looting Stars the Shooting Stars que era una frase que había dicho un gobernador de la década de 60 llamado wallas del sur de Estados Unidos que es una frase que un americano se da cuenta de inmediato que tiene una conación racista y y violenta no Y entonces el post fue denunciado

y qué creen que fue lo que decidió la corte de Facebook Bueno eh No lo no trató el caso y no lo no lo removieron y porque que bueno nos animaron a eventualmente que que este post fuese bueno removido con lo cual le generó a Zuckerberg digamos una medio una rebelión interna de algunos ejecutivos que estan no muy contentos con que habían armado la Corte Suprema esta de Facebook para tratar de que haya un mecanismo neutral e Imparcial de resolución y lo que terminó pasando Es que cuando las papas quemaban en algo

tan importante como un post presidente eh la corte esta realmente no se animó a a tratarlo con lo cual si querían un mejor ejemplo de Por qué hace falta mecanismos descentralizados para moderar contenidos acá tio muy buen ejemplo y eh este post Twitter o sea lo dejó ahí eh Y bueno con una con una leyenda de de de que violaba las normas pero que igual lo dejaban porque consideraban que era un post que eh igual e tenía es público para que quede la plataforma sí ejemplos son un poco para que vean Cuál es el tipo de de problemas que surgen son temas de alto perfil y obviamente no es lo que le afecta la

persona del día a día Pero Facebook comete 300.000 errores de moderación de contenidos por día y esto afecta a gente que vende cosas para la plataforma gente que usa su influencia en la plataforma para bueno dar charlas cobrar servicios y si a vos te echan de la plataforma por un B que es consideras Injusto no tenés mucha posibilidad de apelación y entonces realmente como que tu carrera o tu modo de vida o tu medio de vida está muy como afectado por esta empresa que toma decisiones de moderación de una forma un poco una caja negra no en una caja negra en la cual eh el moderador

tomó una decisión mucho gran parte del proceso se hace con de manera automatizada con 95 por de los posts se hacen de las modelaciones se hacen con un Bot que ni lo ve un humano La minoría la ve un humano y esos son call centers enormes con gente que hace eh está todo el día viendo las eh los podc de la gente y bueno y viendo si cumplen no cumple las normas de de servicio y bueno Y te van bajando y no te explican Por qué en general sí Entonces vamos a contar un poco sobre cleros eh brevemente Para los que no conocen cleros es conocido ser una plataforma descentralizada de de justicia y el caso típico es eh tenemos eh No sé una persona B Alice de Francia

que es una emprendedora que tiene una empresa y que quiere hacer un un video para promocionar su su empresa yata a Bob que está en en Guatemala para hacer un videíto de 2 minutos él se pone a trabajar y eh Hay una disputa porque cuando él entrega el producto ella le dice que la calidad de lo que él entregó era más baja de lo que ella había contratado él le dice que estaba que hizo lo que estaba el contrato y que si ella quiere que trabaje más tiempo que le Bueno le pague más plata para el tiempo que le va a dedicar obviamente ella no va a ir a hacer un juicio en Guatemala y tampoco va a ir a viaje internacional eh Por un monto que es en general un par de decenas o cientos de dólares sí Entonces esta realidad que nos afecta en el día a día mucha gente

que trabaja en el mundo de internet o el mundo del metaverso y lo que hace cleros eh es un mecanismo que funciona de la manera siguiente imagin que cuando Alice contrata a Bob Ella manda un pago en cripto a un Smart Contract que funciona como tipo esc un Fidel comiso y en caso de bueno de que Bob el producto y que ya esté contenta Bueno ella ya recibe su su video él recibe su plata porque ya lo libera y clos no entra en funcionamiento pero si hay una disputa por la calidad del producto digamos la plata Que ya mandó el Smart Contract quede retenida ahí y cleros va a ser ad para tomar una decisión sobre quién tiene razón en este caso y clo que

es es una es una da es un protocolo que va a elegir un conjunto de jurados donde cada uno de ellos de manera independiente van a evaluar el caso van a ver el producto van a ver el contrato y van a ver según las reglas que tiene la corte en la que ellos tienen que que trabajar van a bueno decidir quién tiene razón Entonces por qué cre está construido sobre sobre block tres tres elementos primero para que no haya ninguna manipulación de la evidencia para tener Claridad de que los el contrato el producto sea exactamente lo que se había pactado y que no hubo nadie que manipuló la evidencia o el producto para lo que ven los jurados

segundo Para que no haya ninguna duda de que los jurados eligieron de la manera prevista y transparente nadie pudo poner a su amigo o a su hermano como Jurado eh y tercero para que cuando se hace la votación y se cuentan los votos que nadie pueda manipular la forma de contarlos Entonces estos tres elementos hacen que cleros tengan que ser construido un blockchain para que haya una garantía de transparencia y que las dos partes que que son las partes del contrato puedan confiar en este mecanismo de resolución Entonces digamos que acá la mayoría de los jurados decide que tiene razón Alice entonces cre hace una decisión y el Smart Contract que tenía los fondos le devuelve la plata a Alice y esto bueno termina el el caso pregunta que estn haciendo es bueno

y los jurados Cómo se eligen y quiénes son e una cosa que en cleros es que cualquiera puede ser Jurado no hace falta que vos te hagas un registro una página ni nada o sea vos con ser cualquiera puede puede ser y tampoco tiene que revelar su identidad porque piensen que eh si uno tuviese que revelar su identidad para ser Jurado En estos casos eh Alguien podría como que bueno apretarte para que votes en su favor no entonces pensemos en esta mujer que vive no sé en Vietnam y ella eh trabaja todo el día en una empresa de videos haciendo videos y por la noche para ganar algo de plata extra quiere ser Jurado en cleros y para ser Jurado en cleros lo que tiene

que hacer es comprarse una moneda llamada pinion Es un rc20 y esta moneda es como un ticket de lotería que te da derecho a ser elegido como como Jurado en las cortes de clero clero tiene diferentes cortes eh por diferentes temas O sea hay e-commerce hay de seguros y etcétera y ella deposita la moneda la corte de videos y muchas otras personas hicieron ese mismo depósito y creo se elige a lasar tres jurados que van a evaluar el caso y van a tener el derecho a a votar quien tiene razón y el mecanismo está construido con teoría de juegos en particular con este señor Thomas shelling Noel economía 2005 que

él investigó bueno teoría de juegos y en particular con desarrolló concepto llamado punto focal que es sobre cómo la gente llegan a consensos en situaciones en las cuales Eh no pueden comunicarse entre sí y tienen que decidir cóm Cómo llegar a una a una un acuerdo digamos no me voy a meter en detalle el mecanismo porque hay un montón de charlas mías eh donde hablo de esto y bueno nos llevaría mucho por las ramas Pero hay lo puedes buscar en todos lados Lo importante es que el mecanismo de cleros la manera que está construido eh es muy rápido puede resolver casos en muy poco tiempo Incluso en pocos días es muy barato Comparado con mecanismos alternativos diferentes y además tiene

la transparencia que viene del hecho de que está construido con con blockchain sí Y entonces es conocido principalmente por temas eh Como el ejemplo que les conté recién de Commerce eh También se usa en empresas como Lemon para resolver disputas entre la empresa y y los y los clientes pero solo desde el comienzo del proyecto en el White paper que escribimos en 2017 había una sección que decía que este mecanismo podía aplicarse para eh temas de redes sociales para evitar que haya spam o para evitar que haya violaciones de las normas de la la plataforma con lo donde

un Jurado de de usuarios iba a poder ser el Que decida eh Quién tiene quién tiene razón en en cuando ha una denuncia por un digamos e post que alguien considera que viola las normas de la comunidad o lo que sea fíjense desde qué momento hace no 10 años pero 8 años ya teníamos la idea de que esto se podía usar para resolver disputas de redes sociales y En aquel momento todavía lo que pasaba era que este tipo de casos son mucho volumen y está construido e digamos eh [Música] la versión inicial de cleros en la

magnet eum con lo cual era costaba cientos de dólares resolver un caso y no tenía ningún sentido usarlo para algo de redes sociales que tenés que tener mucho mucho volumen de montos muy pequeños peroo en 2021 en la fcc Después de varios años de de no darle mucha bola a este caso de uso de nuevo me pongo a investigarlo porque justamente este tema se estaba poniendo un poco más de moda por lo que había pasado el año anterior en relación con lo de Trump y la Corte Suprema de Facebook y todo y todo eso sí Entonces ahí como que el tema se vuelve a poner e en el tapete y también porque se había empezado a lanzar las primeras iniciativas no las primeras iniciativas Pero los que vimos algunas como steam

pero sí eh Como redes sociales centralizadas tipo lens protocol Que decíamos bueno hay una red social descentralizada esta red social va necesitar también un mecanismo de moderación descentralizado entonces como que empezó el tema este hacerse de nuevo interesante no y le voy a contar un par de experimentos que hicimos e de de cleros para para resolver dos grandes problemas que hay en redes sociales el primero es el tema de la desinformación y bueno no voy a explicarles porque saben que es lo que pasa en las redes sociales Hay un montón de problemas de información falsa fake news y todo eso y una de las iniciativas eh que eh se empezaron a implementar para tratar de resolver estos problemas

es lo que se conoce como Community notes no de Twitter que ustedes Bueno saben lo que son las comunity que son hechas por la comunidad la gente puede aportar información sobre el contexto de un tweet y nosotros hace unos años hicimos un proyecto de un una especie de Community notes descentralizadas y verificables que se llamaba pitia vos tenías un tweet de una persona en una red social fíjese la fecha 2021 eh Y cualquiera podía como que denunciar tu tu tweet con otro eh con este con este Bot llamado pitia y entonces una vez que te denunciaban el

twit a V te aparecía una especie de comunity un twet abajo que te decía fuiste denunciado por fake news y eh un ejemplo es por ejemplo una persona había hecho una no sé un post que dice beber la bandina cura el covid entonces de la comunidad que está usando Twitter usuarios que pueden evaluar eso y decidir si quieren eh digamos atacarlo O si quieren como impugnar ese tweet por ser falso o o no Entonces si alun persona considera que esa información es des información puede denunciarlo sí eh con esta interfaz que vos podías ponías el T ahí ha es un depósito eh para que haya una un bounty para para para eso y

ahí tienen 0 $5 de de bounty entonces subió el y se creaba una lista de noticias falsas que estaban ahí en la en la bueno es interfaz en una aplicación que llama clos curate que es para curar items de diferentes tipo acá se curaban contenidos que es una lista de noticias falsas que la comunidad podía estar viendo eh si podía estar evaluando si eran falsas o no eran falsas no entonces acá tenés la de beber la bandina cura el covid entonces esa es una una noticia que la gente la dejaba pasar porque era una noticia falsa entonces todo bien pero ahora tienes una noticia por ejemplo que dice Trump es presidente de Estados Unidos bueno como sabemos Trump

es presidente Entonces esta noticia no es falsa es esto es verdadero con lo cual uno puede impugnar Esa esa noticia eh Y con un depósito y después lo que hay es una una eh disputa entre la persona que hizo la impugnación y la persona que hizo la el post entonces cleros va a ser Jurado Que decida si esto es o no es eh fake no eh Entonces como Esto no es fake porque es verdad que TR ser presidente esta persona gana el caso y se queda con el depósito de la persona que hizo el envío y la noticia esa es removida de la lista de noticias falsas entonces vos después una vez que tés esta lista curada Por la comunidad lo que puedes hacer es bueno eh poner en

en Twitter Digamos como que badges que digan esta noticia es falsa Esta no es falsa como una especie Community notes digamos financialization e y no para otros en particular por lo siguiente acá tienen una noticia donde tienen a elon Mask O

sea hay una publicidad que es claramente un scam no entonces acá tienen dos grupos de personas llamémoslo si quieren no sé izquierda y derecha o demos y republicanos o ellos y nosotros o como ustedes quieran llamarlos eh Y eh este post o sea es fake o no es fake Y esto es obvio que son fake con lo cual las dos partes como que las dos grupos de personas los dos equipos y en el fondo van a estar de acuerdo en que es eh Es falso sí em entonces van a estar los dos diciendo bueno Esto es falso Pero qué pasa si e hay un post que es denunciado y dice eh millones de personas murieron por la

vacuna de covid-19 como se imaginarán acá el consenso de la comunidad va ser mucho más complicado alcanzar no se imaginarán ya Quién va a pensar cosa de esto entonces lo que les va a pasar es que digamos los de rojo van a ser tipo así no esto es verdadero y los de az van a ser esto falso con lo cual tien una situación en la que más que buscar la verdad el Community node lo que hace es bueno reflejar la polarización que existe en el mecanismo bueno en la sociedad dentro del mecanismo de notas de la comunidad y la justicia centralizada por la manera que funciona lo que los jurados tienen que hacer No es cuando llegar a un consenso sobre cuál es la la verdad lo que tiene que

hacer un Jurado para votar en cleros es tratar de pensar qué es lo que la comunidad en su conjunto pensaría sobre este esta este caso este video de del freelancer O qué es lo que la comunidad pensaría en su conjunto sobre esta e pieza de contenido Entonces eso hace que uno tenga que empatizar con con toda la comunidad y No únicamente con los que están en su equipo y si vos te equivocas en empatizar o en acertar lo que la comunidad piensa que la que va a serc este esta decisión vas a perder tu plata con lo cu hay un incentivo económico a que uno realmente se piense si la noticia es falsa o no es falsa

eh En el sentido de que si vos querés jugar para tu equipo vas a perder plata entonces la gente cuando tiene que decidir bueno por ahí prefiero que la noticia decía prefiero decir la verdad Para no perder planta que que lo lo que vive mi equipo hay un mecanismo que es diferente que no está en Twitter actualmente pero que lo puede resolver clero s esa es una un mecanismo que desarrollamos con este proyecto llamado pitia en el cual nos permitía experimentar un poco con lo que es resolver disputas de moderación de redes sociales En el caso de la desinformación y el segundo experimento que hicimos es una llamada moderate que es para compartir

el comportamiento tóxico en comunidades online no hace un par de años tuvimos un un experimento humanity bueno se acordarán que todo el drama que hubo que la guerra la guerra civil lo llamaron algunos y habí no s nos denunciaban de que cleros borraba los post que la gente hacía en en el Telegram para acallar las voces disidentes bueno eso Y eso un poco nos llevó también a tratar de a revivir eh las ideas iniciales que habíamos tenido en eh Cómo se podía usar clos para redes sociales para moderación de contenidos Okay si creen que nosotros eh Somos unos

sensores de la libertad de expresión vamos a hacer una aplicación donde se puede hacer la decisión de manera descentralizada eh A través del mecanismo de de cleros entonces lanzamos esta aplicación llamada cleros moderate eh que permitía hacer un tipo de moderación transparente de redes sociales y en particular dentro de lo que es grupo de Telegram no entonces funciona de la manera siguiente primero Cuando uno hace un grupo de Telegram eh usa a los los usuarios para votar las reglas de la comunidad no ustedes hacen un pueden hacer una serie de workshop en los cuales los miembros de la comunidad trabajan juntos en hacer las reglas y después votan okay Bueno queremos que estas sean las reglas de la comunid Y

esto es lo que Define qué es lo que se permite y lo que no se permite decir en la comunidad temas de spam temas de abuso de lenguaje hate speech bueno la comunidad se pone de acuerdo en lo que ellos consideran que son sus reglas y queda esto escrito en un documento que es tipo este este es ejemplo de un documento real de de moderate que se usa en una comunidad y cuando un usuario entra a un grupo de Telegram el Bot que le da la bienvenida o sea le le dice mira Bienvenido al grupo eh Ahora fíjese las reglas de la comunidad son estas asegúrese de que las cumpla y bueno la persona al sumarse al grupo pone tipo acepto esta regla de la comunidad eh Y bueno empieza a

interactuar un buen día esta persona digamos que se enoja con alguien y lo putea Y qué pasa uno de los otros de usuarios de la comunidad Eh puede hacer un reporte este post de esta persona es bueno viola las reglas a la comunidad y una vez hecho esto e otras personas tienen que validarlo no eh acá tienen una un ejemplo no sé si lo conocen a Green Bueno ahí está es Green Y por supuesto soy yo que lo estoy puteando Y eso es una prueba claro sea no no es que lo estaba puteando realmente pero en el grupo este eh ahí shoto me denunció ven que tocó el coso report a mi post con el susci que su es

es el Bot de moderación de contenido que implementa el ch moderate entonces Ah está fui eh denunciado y queda este print screen adherido a mi denuncia Mira Federico Federico dijo esto Acá está la evidencia de lo que dijo y esto rompe las reglas de la comunidad Entonces esto después va a para para que yo pueda hac para se denunciado necesita dos confirmaciones más de usuarios que dice sí Federico rompió las reglas y y yo digo No yo no rompí las reglas o sea ustedes lo que pasa es que Green es demasiado sensible y e Bueno hay dos partes unos que son los que acusan y el que defiende y yo acá me estoy defendiendo y el Jurado va a decidir si

yo tengo razón o no y acá tiene la evidencia que se puede ir subiendo los print screens y lo que cada uno pueda decir como su defensa y bueno por supuesto este caso lo perdí así que bueno fui removido del grupo sí y removido el grupo bueno bueno significa varias cosas lo que puede pasar por ejemplo es que me me mandan a la cárcel de cleros y puedo crear en la cárcel esa durante Bueno no sé una cantidad de días hasta que me me liberan o otra posibilidad Es que yo para ser liberado pueda tener que pagar No s imagínense que me dicen Bueno usted puede decir entre 10 días fuera del grupo o pagar 50 di y bueno capá que quiero pagar como una especie de fianza

y esto le permite a la comunidad como financiar sus bienes públicos a través de bueno gente como yo que somos infractores de las buenas normas de de convivencia Sí entonces la vuelta de rosca que tiene esto ahora que esto es una cosa que se hizo ahora hace dos días hicimos una corte en la cual eh vamos a empezar a aplicar jurados robots para O sea agents que decidan si la persona rompió o no las reglas lo cual permitir bajar un bastante el costo Y hacer que sea el proceso automatizado Eh entonces qué pasa el juicio cuando tenés los humanos que tienen que decidir

si rompiste no las reglas puede durar quizás no sé e días Eh los Bots lo pueden hacer en minutos Entonces con lo cual eh de manera que ha automática o sea inmediata tenés el Bot que decide si debo ser o no Eh bueno expulsado de la de la comunidad y todo esto otra vez de manera como transparente donde se ve ve todo el proceso de decisión y etcétera entonces ya cerrando e el futuro libertad de expresión en la era centralizada como les decía vamos a tener un mundo en el cual va a haber una combinación de tecnologías de moderación las cosas más objetivas las decisiones o sea sobre temas de qué cuenta es verdadera o falsa

qué post es spam se va a resolver con al un mecanismo tipo automatizado como estas cortes que les decía de agentes y después en temas más complejos que entender el contexto en el cual se hace una denuncia o se hace un post o temas de hate speech en la cual algunas personas que podrían decir no bueno es una cosa humorística o no es una cosa humorística como la imagen de la chica que decía maten a los hombres Bueno e en ese tipo de casos Ahí vamos a necesitar por ahí todavía humanos que puedan tener una visión como más fina de la intención que hay por detrás de un post o o algo así Entonces esto es un poco lo que creemos que va a pasar hacia adelante

cómo se va combinar las tecnologías para moderar contenidos entonces el último último concepto es futuro es redes sociales descentralizadas tipo lens protocol u otras almos de moderación Open source sea con estos agentes que van a ir haciendo sus decisiones en estos incentivos económicos para que las decisiones sean siguiendo los procesos que tiene cleros y en ese aspecto es un proceso que sea mucho más rápido mucho más económico que lo que hay actualmente y con la transparencia que nos permite el blockchain bueno Muchas gracias por la atención y esto es un poco lo que estamos pensando hacia futuro de para redes sociales y el futuro de libertad de expresión e como siempre es super

interesante escucharte algo que me gusta destacar de T de tus charlas y presentaciones es que siempre das material de lectura Así que después vamos a recopilar todos los links de de los libros que recomendaste y los vamos a subir porque n lo hicimos Hicimos lo mismo la otra vez y es super interesante e antes de ir por algunas preguntas que que bueno se me vinieron a la cabeza a meda que te iba escuchando voy a dar la la el po Así que vayan a la app de Po y para mintear la palabra clave es libertad gu expresión todo en minúscula sin acento expresión libertad gu expresión vayan a mintear el po y

mientras tanto pregunto e qué tan abierto están las empresas para incorporar estas herramientas porque hablamos de e redes sociales descentralizadas Pero qué tan lejano es que Facebook que sí meta incorpore esta tecnología para la moderación de contenidos siendo todos los sucesos previos que comentaste Mira o sea las empresas son en un punto de las más interesadas de de hacer esto porque una de los motivos por los cuales Facebook en su momento empieza a experimentar con la Corte Suprema está descentralizada es eh digamos externa supuestamente Pero no

del todo centralizada pero más centralizada que que lo haga la empresa misma e es porque zuckerber se dio cuenta que pasaba demasiado tiempo todos los días teniendo que él decidir personalmente eh si bajar o no algún post obviamente no va a decidir si bajar el post de Fede pero sí cuando hay un político que hizo al un post que por ahí como lo de Trump se dio cuenta que necesitaba y é sentía como que no estaba capacitado Tampoco porque necesita a veces formación en temas de de De filosofía moral libertad de expresión también tiene aristas legales entonces la empresa de redes sociales no quiere estar haciendo este trabajo es una es parte de lo no le queda otra que hacerlo

porque si no se le genera bueno todo un caos en su en su en su red pero no es parte de su negocio Entonces es algo que que es un problema para ellos Entonces e las empresas en principio van a estar interesadas en esto eh Y después habrá que que empezar por algo más pequeño novamente nosotros empezamos con con grupos nuestros de Telegram también lo pueden hacer en Sid experimentando con estas cosas y y después en la medida que se vaya teniendo más confianza en cómo funciona se empezará a implementar en un grupo más importante o en un lugar más grande hasta que bueno digamos se pueda empezar a implementar en redes sociales más grandes pero para las empresas esto

en principio le cierra y además elon musk justamente es una de las personas que más impulsa esto dentro de X porque dice Bueno todas las Community notes en el fondo son una especie de cleros centralizado no porque es una especie de la comunidad la que la que decide pero en el fondo lo que pasa es lo mismo Está bien es la comunidad pero cómo sabes cómo se le asignó A quién se le asignó esta esta decisión Y cómo sabes que est esta cantidad de gente en función de la cantidad de gente que vota y que se decide el post tiene más o menos visibilidad entonces Y también lo que est pensando es que justamente Twitter te premia por cumplir con ciertos requisitos y la

persona que entiende Cuál es el criterio puede justamente apalancarse eso para tener mucha más visibilidad porque dentro de Los criterios no está la de los datos que ellos brindan que que uno está de la información básicamente Entonces cómo se hace el balance el balance en el fondo hay unas reglas que las cuales no que lasas sean malas y que quieran manipular Pero bueno en el fondo las empresas También tienen intereses económicos y y no solamente intereses económicos a veces Incluso el gobierno les dice miren no queremos este post no lo queremos sáquenlo y Bueno pero tenemos nuestra comunity no nos interesa su Community notes saquen el post entonces como que eh También tienen sus presiones propias eh ellos que vienen

los gobiernos ent en un mundo de redes sociales tipo lens descentralizados y con mecanismo tipo cleros bueno va a ser mucho más neutral todos los mecanismo de moderación Y al menos Ahí se van a poder se va a poder experimentar mucho más hasta traspolar a otros a otros otras redes sociales antes de ir a hay algunas preguntas sobre e cleros en el chat pero eh sigue sigue activo pitia mencionaste Qué pasó porque est bueno para usar lo que pasó un momento es que digamos que era todavía estaba estamos creo que m era caro F un experimento En aquel momento pero si alguno le interesa

desarrollarlo de nuevo encantado de participar y porque aarte ahora tenemos antes no teníamos las las Cortes con agentes de iao era también caro porque Ten hac un depósito de 0 y bueno ahora es mucho más fácil de hacer Así que si alguno le interesa desarrollar esto y trabajar en esto bueno Escríbame lo vemos bueno estuvimos estuvimos con algunas sesiones de Ai y ahora se va a venir otra Así que quizás podríamos indagar un poquito más en el tema y quién sabe si puede surgir de vuelta un un agent de pta estaría buenísimo La verdad sí es una es una buena idea hay que hay que anotarla eh antes de de ir a la última pregunta que justamente venía desde el

lado de acá me preguntan si la moderación votaciones se lleva adelante en l1 of Chain En dónde esto se va a hacer ahora en arbitrum que es donde está la versión dos de cleros Así que es barato el gran impedimento que había en las primeras versiones de moderate era que o sea todavía era l1 era era era costoso de usar y todo con lo cual no era la mejor mejor ahora con la versión dos de cleros eh Pasa tener en arbitrum Y además lo que tiene de interesante es que hay otra otra cosa más que a veces la gente no quiere que

cualquier persona vote Imagínate que ustedes quieren no sé en la comunidad decir eh tienen una comunidad con gente y hay gente que denuncia a otro por un post que no bueno no no era apropiado alguien lo denuncia con el tipo con el Bot y Esto va a un juicio Y ustedes quieren que únicamente la gente de la comunidad puedan ser jurados dentro del juicio que hay ahí y que no cualquiera con la moneda pueda hacerlo entonces tenés que ser primero tenés que tener un sol token que representa como tu credencial de socio de decir y además la moneda para depositar Entonces eso te permite a vos lograr como que una justicia entre pares es como que te un juicio como que por jurados no sea cuando uno hace juicio

por jurados Jurado se compone por gente de tu país o de tu ciudad No eso es un poco la misma lógica llevada a los dados no era posible hacer eso en las versiones iniciales es posible hacerlo ahora en la versión de arbitrum con lo cual es una ventaja mucho mayor y sí porque justamente te va a juzgar alguien que ya tiene criterio y contexto de la situación Bueno ahora una preguntita más que la respondió jin por lo que veo que es donde queda el registro cuando de lo que sucede en el caso de cleros no sé si quieres dar un poco de contexto Más allá de lo que comentó Shin creo que está claro ahí Perfecto Bueno y con respecto a Ai es una pregunta y también un en realidad es una

pregunta para que nos des tu visión sobre el tema e yo me por el por un lado la e nos va a dar herramientas para que se desarrollen muchas más soluciones frente a estas problemáticas que vos presentaste Pero por otro lado va a ha mucho más más e desinformación o manipulación mucho más fácil porque ya se han dado casos eh de quizás personas que en realidad son una Ai Y cómo cómo cómo detectarla básicamente e es cada vez más real Entonces cómo van a convivir esos dos ámbitos Y qué es lo que te imaginas de eh del corto porque la verdad que los

tiempos son bastante acotados o vienen vienen sucediendo las cosas bastante rápido en en el corto mediano y largo plazo yo cada vez que tio algo ahora hay un pod que me sigue que me comenta algo siempre y yo me doy cuenta que es una gu porque es tan buena onda todo lo que Comenta como que no puede ser humano que tenga tanta buena onda Entonces esto es eling no lo pasa cuánto le pagan esm claro o es un grupi tipo un fan total o es un Bot mal programado pero la verdad es que bueno por eso hicimos un poco of humanity estamos en un mundo en el cual cada vez es más complicado se distinguir el agente de acuer los agentes de Matrix no

agentes de Matrix se tomaba la forma de cualquier persona eh No acuérdense el malo de Terminator también bueno son los agentes de ia que se mimetizan es cada más complicado de de identificarlos un método es un escaneo de retina como hacer en bl Runner por ejemplo a ver si es humano o no es humano eh el Tex the Boy the Camp se llamaba creo e entonces la realidad es como que estamos en el mundo de metaverso cada vez más complicado de distinguir Y la verdad es que va a ser una combinación de herramientas un poco va a ser humanity un poco va a ser herramientas tipo cleros para verificar cosas como si no sé eh esta este

comentario lo hizo una o lo hiz una persona pero cada vez más difícil y uno de los temas vist con las Deep fakes eh la verdad es que no tengo una buena respuesta para esto s es un desafío grande y nosotros estamos trabajando en esos temas Sí bueno parte de las redes sociales es también convivir con las buenas y malas intenciones y creo que que mucho se va a responder desde ese lado y bueno como decí vos una conjunción de distintas tecnologías y soluciones si no hay ninguna pregunta más en el chat super interesante me gustaría en unos en unos meses quizás verte a tener acá y que nos cuentes un poco Cómo se va dando eh toda esta evolución sobre moderación de contenidos

porque creo que este año va a haber mucho más eh justamente porque se va a implementar Ai en redes sociales hoy hoy quizás se escucha mucho defi pero algo que estuve escuchando o intentando involucrarme un poco más las últimas semanas porque Bueno yo lo que hago es comunicación es comoo va a convivir los Ai agents en lo que es comunicación social en y redes sociales Así que s super interesante empezar a pensar y en qué es lo que qué es lo que va a venir Y cómo cómo Esto va a transformar Eh bueno la la interacción y y la y la moderación de contenidos así que bueno espero tenerte en en los próximos meses

para que nos actualices sobre sobre el proyecto sobre cleros como siempre y y sobre este tema en particular con mucho gusto y bueno graas por la invitación como siempre bueno aprovecho antes de cerrar igual primero eh para que meen el po que es libertad gu expresión y también un tema que se habló mucho en el grupo que es F archi y prediction Markets mañana tenemos un space a las 12 pm Argentina si no me si no me equivoco creo que estoy 100% segura ahora e Enzo confirmó pero mañana tenemos un space donde también va a

participar el equipo de cleros clement y y bueno los chicos de Sid para hablar sobre el tema así que los esperamos y nos vemos nuevamente mañana así que Bueno un beso y sigan bien la semana chao chao [Música] [Música]