Qillqirinaka:
(1) Hoon Kim, Beeble AI, ukat aka lurawinx mä kipkak yanapt’awayi;
(2) Minje Jang, Beeble AI, ukat aka lurawinx mä kipkak yanapt’asiwayi;
(3) Wonjun Yoon, Beeble AI, ukat aka lurawinx mä kipkak yanapt’asiwayi;
(4) Jisoo Lee, Beeble AI, ukat aka lurawinx mä kipkak yanapt’awayi;
(5) Donghyun Na, Beeble AI, ukat aka lurawinx pachpa yanapt’asipxäna;
6) Sanghyun Woo, Nueva York jach’a yatiqañ utan yatichiri, ukat uka irnaqäwirux pachpa yanapt’awayi.
Editoran yatiyawipa: Akax 14n t’aqapan 1r t’aqapawa, mä yatxatäwin mä thakhi uñt’ayi, kunjams qhanampi ch’amakampix jaqinakan jamuqanak digital ukan uñacht’ayat uñacht’äwinakarux juk’amp askinak lurañataki. Jichhax akham uñakipt’añäni.
Apéndice uñxatt’aña
Jaqinakan jamuqanakap wasitat qhant’ayañatakix mä co-diseñado uñakipäw uñt’ayapxtanxa, ukax mä arquitectura física guiada ukampiw mä marco de pre-entrenamiento ukamp mayachthapi. Modelo de reflectancia Cook-Torrance ukat apsusaw arquitectura ukan diseñop sum wakicht’apxta, ukhamat qhana-superficie ukan mayacht’asiwinakap chiqaparu uñacht’ayañataki. Ukhamarus, juk’a jach’a calidad de escenarios de luz ukan limitación ukar atipjañatakix, mä estrategia autosupervisada pre-entrenamiento ukaw lurasiwayi. Aka novedoso combinación de modelado físico exacto ukat conjunto de datos de capacitación ampliado ukax mä machaq referencia realismo ukar wasitat qhanstayañatak utt’ayi.
Wasitat qhant’ayañax mä herramienta estética ukat sipan juk’ampiwa; ukax jan tukuskir narrativa posibilidades ukanakaruw jist’araraki, ukatx kunayman pachanakanx temas ukanakax jan kuna ch’axwañampiw mayacht’asiñapatak yanapt’i (Fig. 1 uñakipt’aña). Aka nayrar sartawix jiwasan nativo munañampiw resonar, espacio ukat tiempo ukan físicas ukan jark’awinakapat sipanx juk’ampi, ukampirus contenido digital ukan lurañanx jan walt’awinak prácticos ukanakarux soluciones tangibles ukanakaw churaraki. Ukax juk’amp mayjt’ayiriwa aplicaciones virtuales (VR) ukhamarak realidad aumentada (AR) ukanakanxa, kawkhantix wasitat qhant’ayañax qhanan chiqpach pachan adaptación ukar yanapt’i, ukax apnaqirinakamp elementos digitales ukanakamp naturalmente kunayman pachamaman mayacht’asiñapatakiw yanapt’i, ukax mä jutir nivel de telepresencia ukaw uñacht’ayasi.
Aka lurawinx jaqin jamuqanakap wasitat qhant’ayañ tuqitw uñakipt’apxta. Kunjamatixa relighting lurawixa fundamentalmente mä manqhana amuyt’awi geometría, propiedades materiales, ukhamaraki qhananchawi mayi, uka jan walt’awixa juk’ampi ch’amanchatawa kunapachatixa jaqina sujetos ukanakaru arst’aski ukhaxa, kunatixa jan uñt’ata uñacht’awinakaxa janchi pata tuqina ukhamaraki kunaymana texturas ukhamaraki propiedades de reflectancia de una amplia gama de isi, ñik’uta, ukat accesorios ukanaka. Aka elementos ukanakax complejos ukham mayacht’asipxi, ukax algoritmos avanzados ukanakaw wakisi, ukax qhanan sutil interjuego uka kunayman superficies ukanakamp simulación ukar puriñapataki.
Jichhaxa, juk’ampi suyt’ata amtawixa apnaqañawa redes neuronales profundas ukanaka yatichata pares de imágenes de retrato relit de alta calidad ukatxa atributos intrínsecos ukanakampi, ukaxa mä configuración de etapa luminosa ukata apsutawa [10]. Nayraqata ch’amanchawixa jak’achasiwayi lurawi mayampi qhananchañataki mä ‘caja negra’ [45, 48], janïra ch’amanchasa mecanismos subyacentes ukanakaru. Qhipa nayrar sartawix mä diseño modelo guiado por física ukaruw apnaqapxi, ukax explícito modelado de intrínsecos de imagen ukat física de formación de imágenes ukanakamp chikancht’asi [32]. Pandey ukat yaqhanakampi. [34] ukax arquitectura Total Relight (TR) ukaruw amtawayi, ukax física tuqit guiado ukhamarakiwa, ukax mä entrada uñacht’äw normales superficiales ukat mapas albedo ukar descompone, ukatx relighting ukax modelo de reflectancia especular Phong ukarjam luraraki. Arquitectura TR ukaxa modelo fundamental ukhamawa uñacht’awinaka mayampi qhananchañataki, jichha pacha ukhamaraki nayraru sartata arquitecturas ukaxa principio ukarjama luratawa [23, 31, 52].
Física tuqit guiado ukarjam arktasa, jiwasan yanapt’asiwix mä co-diseño de arquitectura ukan utji, mä marco de pre-entrenamiento autosupervisado ukamp. Nayraqatxa, jiwasan arquitectura ukax mä modelo físico juk’amp chiqaparuw jilxati, modelo de reflectancia especular Cook-Torrance ukar mayacht’asa [8], ukax mä jach’a nayrar sartawi uñacht’ayi modelo empírico Phong especular [37] ukat arquitectura Total Relight ukan irnaqata. Modelo Cook-Torrance ukaxa adeptamente simula la interacciones de luz microfacetas superficiales ukanakampi, ukaxa cuentas de rugosidad espacialmente variada ukhamaraki reflectividad ukanakampi. Payïrix, jiwasan marco de preentrenamiento ukax yatiqañ thakhix juk’ampiruw escala, ukax típicamente ch’amaw lightstage ukan datos ukanakat sipansa. Uka marco autocodificador enmascarado (MAE) [19] ukar wasitat uñakipt’asax, wasitat qhant’ayañ lurañatakix adeptapxtwa. Aka mayjt’awinakax aka lurawimp jan uñt’at jan walt’awinak askichañatakiw lurasiwayi, ukax jiwasan modelo ukarux jan etiquetado ukan yatiyawinakat yatiqañapatakiw yanapt’i ukat chiqpach relit relit uñstayañ yatiñap suma askichañ pachanx refinar. Jiwasan yatiñasarjamaxa, akax nayrïr kutiw autosupervisado pre-entrenamiento específicamente ukax relighting lurawimp apnaqaña.
Mä juk’a arumpixa, jiwasan yanapt’awisax pä tuqitwa. Nayraqatxa, modelo de reflectancia física ukar ch’amanchasa, machaq nivel de realismo ukaw mistuwipanx uñt’ayawaytanxa. Payïri, autosupervisado yatiqaña apnaqañampixa, yatichawi yatiyawinakaxa jach’aptayapxiwa, ukhamaraki qhananchawi uñacht’ayañatakixa kunaymana chiqapa pachana uñacht’ayañatakixa ch’amanchapxaraktwa. Mayacht’asisinx uka nayrar sartawinakax SwitchLight marco ukarux machaq estado de arte jaqin jamuqanakap wasitat qhant’ayañanx jikxatañatakiw irpxaruwayi.
Aka qillqataxa arxiv ukanxa CC BY-NC-SA 4.0 DEED licencia ukampiwa uñt’ayasi .