{"id":4364,"date":"2024-05-21T13:53:14","date_gmt":"2024-05-21T16:53:14","guid":{"rendered":"https:\/\/sistemasinovadores.com.br\/?p=4364"},"modified":"2024-05-21T13:53:19","modified_gmt":"2024-05-21T16:53:19","slug":"perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia","status":"publish","type":"post","link":"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/","title":{"rendered":"Perigo \u00e0 Vista? Por Que a OpenAI Dissolveu Sua Equipe de Riscos de IA"},"content":{"rendered":"<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">\u00cdndice<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Toggle Table of Content\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewbox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewbox=\"0 0 24 24\" version=\"1.2\" baseprofile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1' ><ul class='ez-toc-list-level-2' ><li class='ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Introducao\" >Introdu\u00e7\u00e3o<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Formacao_da_Equipe_de_Super_Alinhamento\" >Forma\u00e7\u00e3o da Equipe de Super Alinhamento<\/a><ul class='ez-toc-list-level-3' ><li class='ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Anuncio_Inicial\" >An\u00fancio Inicial<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Objetivos_da_Equipe\" >Objetivos da Equipe<\/a><\/li><\/ul><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#A_Dissolucao_da_Equipe\" >A Dissolu\u00e7\u00e3o da Equipe<\/a><ul class='ez-toc-list-level-3' ><li class='ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Saida_de_Ilia_Sutskever\" >Sa\u00edda de Ilia Sutskever<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Crise_de_Governanca\" >Crise de Governan\u00e7a<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-8\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Saida_de_Jan_Leike\" >Sa\u00edda de Jan Leike<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-9\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Saidas_Adicionais\" >Sa\u00eddas Adicionais<\/a><\/li><\/ul><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-10\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Impactos_no_Futuro_da_IA\" >Impactos no Futuro da IA<\/a><ul class='ez-toc-list-level-3' ><li class='ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-11\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Prioridades_Internas\" >Prioridades Internas<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-12\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Vozes_de_Alerta\" >Vozes de Alerta<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-13\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Conquistas_da_Equipe_de_Super_Alinhamento\" >Conquistas da Equipe de Super Alinhamento<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-14\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#O_Desafio_do_Equilibrio_Entre_Inovacao_e_Seguranca\" >O Desafio do Equil\u00edbrio Entre Inova\u00e7\u00e3o e Seguran\u00e7a<\/a><\/li><\/ul><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-15\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#FAQ\" >FAQ<\/a><ul class='ez-toc-list-level-3' ><li class='ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-16\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Por_que_a_equipe_de_riscos_de_IA_foi_dissolvida\" >Por que a equipe de riscos de IA foi dissolvida?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-17\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Quem_era_Ilia_Sutskever\" >Quem era Ilia Sutskever?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-18\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#O_que_isso_significa_para_a_seguranca_da_IA\" >O que isso significa para a seguran\u00e7a da IA?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-19\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Quais_foram_as_conquistas_da_equipe_de_Super_Alinhamento\" >Quais foram as conquistas da equipe de Super Alinhamento?<\/a><\/li><\/ul><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-20\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Conclusao\" >Conclus\u00e3o<\/a><ul class='ez-toc-list-level-3' ><li class='ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-21\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#Tags\" >Tags<\/a><\/li><\/ul><\/li><\/ul><\/li><li class='ez-toc-page-1 ez-toc-heading-level-1'><a class=\"ez-toc-link ez-toc-heading-22\" href=\"https:\/\/sistemasinovadores.com.br\/es\/perigo-a-vista-por-que-a-openai-dissolveu-sua-equipe-de-riscos-de-ia\/#OpenAI_InteligenciaArtificial_IA_Seguranca_Riscos_Tecnologia_Inovacao_Futuro_DesenvolvimentoTecnologico_Exploracao_IAAvancada_Pesquisa_AprendizadoDeMaquina\" >OpenAI #Intelig\u00eanciaArtificial #IA #Seguran\u00e7a #Riscos #Tecnologia #Inova\u00e7\u00e3o #Futuro #DesenvolvimentoTecnol\u00f3gico #Explora\u00e7\u00e3o #IAAvan\u00e7ada #Pesquisa #AprendizadoDeM\u00e1quina<\/a><\/li><\/ul><\/nav><\/div>\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Introducao\"><\/span>Introdu\u00e7\u00e3o<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"alignleft size-full\"><a href=\"https:\/\/sistemasinovadores.com.br\/es\/\"><img fetchpriority=\"high\" decoding=\"async\" width=\"618\" height=\"359\" src=\"https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/0.png\" alt=\"\" class=\"wp-image-4368\" srcset=\"https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/0.png 618w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/0-500x290.png 500w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/0-300x174.png 300w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/0-18x10.png 18w\" sizes=\"(max-width: 618px) 100vw, 618px\" \/><\/a><\/figure>\n<\/div>\n\n\n<p>A dissolu\u00e7\u00e3o da equipe de riscos de IA na OpenAI levantou s\u00e9rias preocupa\u00e7\u00f5es sobre a seguran\u00e7a e o futuro da intelig\u00eancia artificial. Com a sa\u00edda de importantes pesquisadores e a reorganiza\u00e7\u00e3o interna, surgem muitas quest\u00f5es sobre as prioridades e a dire\u00e7\u00e3o da empresa. Neste artigo, vamos explorar os detalhes dessa decis\u00e3o, suas implica\u00e7\u00f5es e o que isso significa para o desenvolvimento de IA segura.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Formacao_da_Equipe_de_Super_Alinhamento\"><\/span>Forma\u00e7\u00e3o da Equipe de Super Alinhamento<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"alignleft size-full is-resized\"><img decoding=\"async\" width=\"1024\" height=\"1024\" src=\"https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/demitido1.jpeg\" alt=\"\" class=\"wp-image-4366\" style=\"width:196px;height:auto\" srcset=\"https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/demitido1.jpeg 1024w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/demitido1-500x500.jpeg 500w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/demitido1-300x300.jpeg 300w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/demitido1-768x768.jpeg 768w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/demitido1-12x12.jpeg 12w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n<\/div>\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Anuncio_Inicial\"><\/span>An\u00fancio Inicial<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n\n<p>Em julho do ano passado, a OpenAI anunciou a forma\u00e7\u00e3o de uma nova equipe de pesquisa chamada de Super Alinhamento, co-liderada pelo cofundador e cientista-chefe Ilia Sutskever. Esta equipe tinha como miss\u00e3o dedicar 20% do poder computacional da OpenAI para garantir que os futuros desenvolvimentos de IA permanecessem sob controle humano e alinhados com os valores humanos.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Objetivos_da_Equipe\"><\/span>Objetivos da Equipe<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n\n<p>A equipe de Super Alinhamento foi criada para:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Seguran\u00e7a:<\/strong> Garantir que as IAs futuras sejam seguras e n\u00e3o apresentem comportamentos inesperados ou perigosos.<\/li>\n\n\n\n<li><strong>Alinhamento:<\/strong> Assegurar que as IAs atuem de acordo com os valores humanos e beneficiem a sociedade como um todo.<\/li>\n\n\n\n<li><strong>Supervis\u00e3o:<\/strong> Monitorar continuamente os sistemas de IA para detectar e corrigir quaisquer desvios indesejados.<\/li>\n<\/ul>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"A_Dissolucao_da_Equipe\"><\/span>A Dissolu\u00e7\u00e3o da Equipe<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"alignright size-full is-resized\"><img decoding=\"async\" width=\"1024\" height=\"1024\" src=\"https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/demitidos-desenhos.jpeg\" alt=\"\" class=\"wp-image-4367\" style=\"width:214px;height:auto\" srcset=\"https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/demitidos-desenhos.jpeg 1024w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/demitidos-desenhos-500x500.jpeg 500w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/demitidos-desenhos-300x300.jpeg 300w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/demitidos-desenhos-768x768.jpeg 768w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/demitidos-desenhos-12x12.jpeg 12w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n<\/div>\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Saida_de_Ilia_Sutskever\"><\/span>Sa\u00edda de Ilia Sutskever<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n\n<p>A dissolu\u00e7\u00e3o da equipe come\u00e7ou com a sa\u00edda de Ilia Sutskever, que foi um dos membros fundadores da OpenAI. Ele desempenhou um papel crucial na dire\u00e7\u00e3o da pesquisa que levou a avan\u00e7os como o ChatGPT. Sua sa\u00edda foi inesperada e levantou muitas quest\u00f5es sobre a estabilidade e as prioridades internas da OpenAI.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Crise_de_Governanca\"><\/span>Crise de Governan\u00e7a<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"alignright size-full is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"761\" height=\"371\" src=\"https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/5.png\" alt=\"\" class=\"wp-image-4369\" style=\"width:390px;height:auto\" srcset=\"https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/5.png 761w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/5-500x244.png 500w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/5-300x146.png 300w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/5-18x9.png 18w\" sizes=\"(max-width: 761px) 100vw, 761px\" \/><\/figure>\n<\/div>\n\n\n<p>A situa\u00e7\u00e3o se complicou ainda mais quando <a href=\"https:\/\/www.linkedin.com\/in\/ilya-sutskever\" target=\"_blank\" rel=\"noopener\">Sutskever<\/a>, junto com outros tr\u00eas membros do conselho, demitiu o CEO Sam Altman. Este movimento causou um tumulto interno, levando a uma revolta entre os funcion\u00e1rios. Ap\u00f3s cinco dias ca\u00f3ticos, Altman foi reintegrado como CEO, e Sutskever, junto com outros dois membros do conselho, deixou a empresa.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Saida_de_Jan_Leike\"><\/span>Sa\u00edda de Jan Leike<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n\n<p>Poucas horas ap\u00f3s a sa\u00edda de Sutskever, Jan Leike, o outro co-l\u00edder da equipe de Super Alinhamento, anunciou sua ren\u00fancia. Leike explicou sua decis\u00e3o na plataforma X, citando discord\u00e2ncias sobre as prioridades da empresa e a aloca\u00e7\u00e3o de recursos. Ele mencionou que, nos \u00faltimos meses, sua equipe estava &#8220;navegando contra o vento&#8221;, lutando por poder computacional e encontrando cada vez mais dificuldades para realizar pesquisas cruciais.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Saidas_Adicionais\"><\/span>Sa\u00eddas Adicionais<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n\n<p>Ap\u00f3s a crise de governan\u00e7a em novembro do ano passado, mais informa\u00e7\u00f5es surgiram:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Leopold Aschenbrenner e Pavle Isof:<\/strong> Foram demitidos por vazarem segredos da empresa.<\/li>\n\n\n\n<li><strong>William Saunders:<\/strong> Deixou a empresa em fevereiro.<\/li>\n\n\n\n<li><strong>Cullen O&#8217;Keefe:<\/strong> Liderou a pesquisa em pol\u00edticas e saiu em abril.<\/li>\n\n\n\n<li><strong>Daniel Kotow:<\/strong> Co-escreveu artigos sobre os riscos de IA avan\u00e7ada e tamb\u00e9m saiu, citando preocupa\u00e7\u00f5es sobre a dire\u00e7\u00e3o da empresa.<\/li>\n<\/ul>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Impactos_no_Futuro_da_IA\"><\/span>Impactos no Futuro da IA<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Prioridades_Internas\"><\/span>Prioridades Internas<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n\n<p>A dissolu\u00e7\u00e3o dessa equipe cr\u00edtica levanta preocupa\u00e7\u00f5es sobre a seguran\u00e7a e o alinhamento de futuras IAs. Uma das cr\u00edticas recorrentes \u00e9 que a lideran\u00e7a da OpenAI parece estar mais focada no desenvolvimento de produtos e novas funcionalidades do que na seguran\u00e7a e alinhamento da IA. Jan Leike mencionou que estava discordando da lideran\u00e7a da OpenAI h\u00e1 algum tempo sobre as prioridades da empresa.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Vozes_de_Alerta\"><\/span>Vozes de Alerta<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"alignleft size-full is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"551\" height=\"384\" src=\"https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/2.png\" alt=\"\" class=\"wp-image-4370\" style=\"width:340px;height:auto\" srcset=\"https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/2.png 551w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/2-500x348.png 500w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/2-300x209.png 300w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/2-18x12.png 18w\" sizes=\"(max-width: 551px) 100vw, 551px\" \/><\/figure>\n<\/div>\n\n\n<p>Ilia Sutskever, em sua postagem de despedida, expressou confian\u00e7a na trajet\u00f3ria da OpenAI sob a lideran\u00e7a atual, mas n\u00e3o explicou sua decis\u00e3o de sair. Por outro lado, Leike foi mais expl\u00edcito, falando sobre a necessidade urgente de controlar sistemas de IA que s\u00e3o muito mais inteligentes do que n\u00f3s. Esta urg\u00eancia \u00e9 algo que n\u00e3o deve ser ignorado.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Conquistas_da_Equipe_de_Super_Alinhamento\"><\/span>Conquistas da Equipe de Super Alinhamento<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n\n<p>Durante seu tempo na OpenAI, a equipe de Leike alcan\u00e7ou marcos significativos na pesquisa de IA:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>InstructGPT:<\/strong> Primeiro modelo de aprendizado por refor\u00e7o com feedback humano.<\/li>\n\n\n\n<li><strong>Supervis\u00e3o Escal\u00e1vel:<\/strong> Publica\u00e7\u00e3o da primeira supervis\u00e3o escal\u00e1vel em modelos de linguagem de grande escala.<\/li>\n\n\n\n<li><strong>Interpretabilidade Automatizada:<\/strong> Pioneiros em interpretabilidade automatizada.<\/li>\n\n\n\n<li><strong>Generaliza\u00e7\u00e3o de Fraca a Forte:<\/strong> Avan\u00e7os na generaliza\u00e7\u00e3o de fraca a forte.<\/li>\n<\/ul>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"O_Desafio_do_Equilibrio_Entre_Inovacao_e_Seguranca\"><\/span>O Desafio do Equil\u00edbrio Entre Inova\u00e7\u00e3o e Seguran\u00e7a<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"alignright size-full is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"540\" height=\"366\" src=\"https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/3.png\" alt=\"\" class=\"wp-image-4371\" style=\"width:309px;height:auto\" srcset=\"https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/3.png 540w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/3-500x339.png 500w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/3-300x203.png 300w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/3-18x12.png 18w, https:\/\/sistemasinovadores.com.br\/wp-content\/uploads\/2024\/05\/3-220x150.png 220w\" sizes=\"(max-width: 540px) 100vw, 540px\" \/><\/figure>\n<\/div>\n\n\n<p>A sa\u00edda de Leike e suas preocupa\u00e7\u00f5es destacam um problema crucial na ind\u00fastria de IA: o equil\u00edbrio entre inova\u00e7\u00e3o e seguran\u00e7a. A <a href=\"https:\/\/community.openai.com\/\" target=\"_blank\" rel=\"noopener\">OpenAI<\/a>, como muitas outras empresas de tecnologia, est\u00e1 em uma corrida para desenvolver sistemas de IA mais avan\u00e7ados. Esta corrida n\u00e3o \u00e9 apenas sobre avan\u00e7os tecnol\u00f3gicos, mas tamb\u00e9m sobre domin\u00e2ncia de mercado. Em um ambiente onde o vencedor leva tudo, a press\u00e3o para inovar rapidamente pode, \u00e0s vezes, sobrepor-se \u00e0 necessidade de testes de seguran\u00e7a rigorosos.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"FAQ\"><\/span>FAQ<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Por_que_a_equipe_de_riscos_de_IA_foi_dissolvida\"><\/span>Por que a equipe de riscos de IA foi dissolvida?<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n\n<p>A equipe foi dissolvida devido a discord\u00e2ncias internas sobre as prioridades da empresa e a aloca\u00e7\u00e3o de recursos. Sa\u00eddas de alto perfil e quest\u00f5es de governan\u00e7a tamb\u00e9m contribu\u00edram para a decis\u00e3o.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Quem_era_Ilia_Sutskever\"><\/span>Quem era Ilia Sutskever?<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n\n<p>Ilia Sutskever \u00e9 cofundador e cientista-chefe da OpenAI, e foi instrumental na dire\u00e7\u00e3o da pesquisa que levou a avan\u00e7os como o ChatGPT. Ele tamb\u00e9m estava envolvido na decis\u00e3o de demitir o CEO Sam Altman, o que gerou uma crise interna.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"O_que_isso_significa_para_a_seguranca_da_IA\"><\/span>O que isso significa para a seguran\u00e7a da IA?<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n\n<p>A dissolu\u00e7\u00e3o da equipe de riscos de IA pode indicar que a seguran\u00e7a e o alinhamento est\u00e3o recebendo menos aten\u00e7\u00e3o, o que pode ser perigoso \u00e0 medida que as IAs se tornam mais avan\u00e7adas. H\u00e1 preocupa\u00e7\u00f5es de que a prioridade esteja sendo dada ao desenvolvimento de produtos em vez de garantir que as IAs sejam seguras e alinhadas com valores humanos.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Quais_foram_as_conquistas_da_equipe_de_Super_Alinhamento\"><\/span>Quais foram as conquistas da equipe de Super Alinhamento?<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n\n<p>A equipe alcan\u00e7ou v\u00e1rios marcos, incluindo o lan\u00e7amento do primeiro modelo de aprendizado por refor\u00e7o com feedback humano, InstructGPT, a publica\u00e7\u00e3o da primeira supervis\u00e3o escal\u00e1vel em modelos de linguagem de grande escala, pioneiros em interpretabilidade automatizada e avan\u00e7os na generaliza\u00e7\u00e3o de fraca a forte.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Conclusao\"><\/span>Conclus\u00e3o<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p>A sa\u00edda dos principais pesquisadores e a dissolu\u00e7\u00e3o da equipe de riscos de IA na OpenAI s\u00e3o um alerta. \u00c9 crucial prestar aten\u00e7\u00e3o \u00e0s preocupa\u00e7\u00f5es levantadas por especialistas e defender o desenvolvimento respons\u00e1vel da IA. O equil\u00edbrio entre inova\u00e7\u00e3o e seguran\u00e7a deve ser cuidadosamente mantido para garantir que as IAs futuras sejam ben\u00e9ficas e seguras para a sociedade. \u00c0 medida que a OpenAI e outras empresas continuam a avan\u00e7ar no campo da intelig\u00eancia artificial, a transpar\u00eancia e a responsabilidade devem ser priorit\u00e1rias para evitar consequ\u00eancias imprevistas e potencialmente perigosas.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h3 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Tags\"><\/span>Tags<span class=\"ez-toc-section-end\"><\/span><\/h3>\n\n\n\n<h1 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"OpenAI_InteligenciaArtificial_IA_Seguranca_Riscos_Tecnologia_Inovacao_Futuro_DesenvolvimentoTecnologico_Exploracao_IAAvancada_Pesquisa_AprendizadoDeMaquina\"><\/span>OpenAI #<a href=\"https:\/\/sistemasinovadores.com.br\/es\/o-alphafold-3-revelando-os-segredos-da-vida-molecular\/\" class=\"broken_link\">Intelig\u00eanciaArtificial <\/a>#IA #Seguran\u00e7a #Riscos #Tecnologia #Inova\u00e7\u00e3o #Futuro #DesenvolvimentoTecnol\u00f3gico #Explora\u00e7\u00e3o #IAAvan\u00e7ada #Pesquisa #AprendizadoDeM\u00e1quina<span class=\"ez-toc-section-end\"><\/span><\/h1>","protected":false},"excerpt":{"rendered":"<p>Perigo \u00e0 Vista? Por Que a OpenAI Dissolveu Sua Equipe de Riscos de IA<br \/>\nA dissolu\u00e7\u00e3o da equipe de riscos de IA na OpenAI levantou s\u00e9rias preocupa\u00e7\u00f5es sobre a seguran\u00e7a e o futuro da intelig\u00eancia artificial. Com a sa\u00edda de importantes pesquisadores e a reorganiza\u00e7\u00e3o interna, surgem muitas quest\u00f5es sobre as prioridades e a dire\u00e7\u00e3o da empresa. Neste artigo, vamos explorar os detalhes dessa decis\u00e3o, suas implica\u00e7\u00f5es e o que isso significa para o desenvolvimento de IA segura.<\/p>","protected":false},"author":1,"featured_media":4365,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11,67],"tags":[141,140],"class_list":["post-4364","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","category-noticias","tag-ia-chatgpt","tag-demissaoopenai"],"_links":{"self":[{"href":"https:\/\/sistemasinovadores.com.br\/es\/wp-json\/wp\/v2\/posts\/4364","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sistemasinovadores.com.br\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sistemasinovadores.com.br\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sistemasinovadores.com.br\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/sistemasinovadores.com.br\/es\/wp-json\/wp\/v2\/comments?post=4364"}],"version-history":[{"count":1,"href":"https:\/\/sistemasinovadores.com.br\/es\/wp-json\/wp\/v2\/posts\/4364\/revisions"}],"predecessor-version":[{"id":4372,"href":"https:\/\/sistemasinovadores.com.br\/es\/wp-json\/wp\/v2\/posts\/4364\/revisions\/4372"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/sistemasinovadores.com.br\/es\/wp-json\/wp\/v2\/media\/4365"}],"wp:attachment":[{"href":"https:\/\/sistemasinovadores.com.br\/es\/wp-json\/wp\/v2\/media?parent=4364"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sistemasinovadores.com.br\/es\/wp-json\/wp\/v2\/categories?post=4364"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sistemasinovadores.com.br\/es\/wp-json\/wp\/v2\/tags?post=4364"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}