ellibsЭлектронные библиотекиRussian Digital Libraries Journal1562-5419Казанский (Приволжский) федеральный университет10.26907/1562-5419-2021-24-3-485-504ellibs-283Research ArticleСтатьиРеконструкция трехмерной модели человека по единственному изображениюReconstruction of a Three-Dimensional Human Model from a Single ImageТарасовА. С.TarasovA. S.aleksandrtarasov53@gmail.comКугураковаВ. В.KugurakovaV. V.vlada.kugurakova@gmail.comКазанский (Приволжский) Федеральный университетKazan (Volga region) Federal University202128062021243485504Copyright © Тарасов А.С., Кугуракова В.В., 20212021Тарасов А.С., Кугуракова В.В.Tarasov A.S., Kugurakova V.V.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://ellibs.elpub.ru/jour/article/view/283

Статья посвящена подходам к обработке изображения для успешной реконструкции трехмерной модели человека, создаваемой методом неявной функции с выравниванием по пикселам, представленном FaceBook Research. Выявлены недостатки работы метода, связанные с ограничением качества исходного изображения, представлены рекомендации, позволяющие избежать его некорректной работы и предложены подходы улучшения исходного изображения, увеличивающие в 1,33 раза идентичность получаемой модели. Также была отработана тактика последующего наложения текстуры и внедрения набора анимаций.

This article focuses on improving the 3D reconstruction of a human model from a single pixel-aligned implicit function image presented by FaceBook Research. The drawbacks of the method are revealed, associated with limiting the quality of the original image, recommendations are presented to avoid its incorrect operation, and approaches to improve the original model are proposed, which increase the identity of the resulting model by 1.33 times. We also worked out the tactics of subsequent texture mapping and implementation of a set of animations.

распознавание лицреконструкция лицреконструкция фигурымодель человекаметод неявной функции с выравниванием по пикселамнейронная сетьface recognitionface reconstructionfigure reconstructionhuman modelPixel-aligned Implicit functionneural networkReferencesLassner, C. et al. Unite the people: Closing the loop between 3d and 2d human representations [Текст] / C. Lassner, J. Romero, M. Kiefel, F. Bogo, M. J. Black, P. V. Gehler // Proceedings of the IEEE conference on computer vision and pattern recognition. – 2017. – P. 6050-6059.Lassner, C. et al. Unite the people: Closing the loop between 3d and 2d human representations [Текст] / C. Lassner, J. Romero, M. Kiefel, F. Bogo, M. J. Black, P. V. Gehler // Proceedings of the IEEE conference on computer vision and pattern recognition. – 2017. – P. 6050-6059.Sun, Z. 3D printing in medicine: current applications and future directions [Текст] / Z. Sun / Quantitative imaging in medicine and surgery. – 2018. – V. 8. – №. 11. – P. 1069.Sun, Z. 3D printing in medicine: current applications and future directions [Текст] / Z. Sun / Quantitative imaging in medicine and surgery. – 2018. – V. 8. – №. 11. – P. 1069.Демоверсия редактора создания персонажа / Официальный сайт the Sims 4: [Электронный ресурс]. – https://www.ea.com/ru-ru/games/the-sims/the-sims-4/pc/create-a-sim-demo (дата обращения: 29.03.2021).Демоверсия редактора создания персонажа / Официальный сайт the Sims 4: [Электронный ресурс]. – https://www.ea.com/ru-ru/games/the-sims/the-sims-4/pc/create-a-sim-demo (дата обращения: 29.03.2021).Weng, C. Y., Curless, B. Photo wake-up: 3d character animation from a single photo [Текст] // Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. – 2019. – P. 5908-5917.Weng, C. Y., Curless, B. Photo wake-up: 3d character animation from a single photo [Текст] // Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. – 2019. – P. 5908-5917.Alldieck, T. et al. Tex2shape: Detailed full human body geometry from a single image [Текст] / T. Alldieck, G. Pons-Moll, C. Theobalt, M. Magnor // Proceedings of the IEEE/CVF International Conference on Computer Vision. – 2019. – P. 2293-2303.Alldieck, T. et al. Tex2shape: Detailed full human body geometry from a single image [Текст] / T. Alldieck, G. Pons-Moll, C. Theobalt, M. Magnor // Proceedings of the IEEE/CVF International Conference on Computer Vision. – 2019. – P. 2293-2303.Saito, S. et al. Pifu: Pixel-aligned implicit function for high-resolution clothed human digitization [Текст] / S. Saito, Z. Huang, R. Natsume, S. Morishima, A. Kanazawa, H. Li // Proceedings of the IEEE/CVF International Conference on Computer Vision. – 2019. – P. 2304-2314.Saito, S. et al. Pifu: Pixel-aligned implicit function for high-resolution clothed human digitization [Текст] / S. Saito, Z. Huang, R. Natsume, S. Morishima, A. Kanazawa, H. Li // Proceedings of the IEEE/CVF International Conference on Computer Vision. – 2019. – P. 2304-2314.Chen, Y., Medioni , G. Object modelling by registration of multiple range images [Текст] // Image and vision computing. – 1992. – V. 10. – №. 3. – P. 145-155.Chen, Y., Medioni , G. Object modelling by registration of multiple range images [Текст] // Image and vision computing. – 1992. – V. 10. – №. 3. – P. 145-155.Pavlakos, G.et al. Learning to estimate 3D human pose and shape from a single color image [Текст] / G. Pavlakos, L. Zhu, X. Zhou // Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. – 2018. – P. 459-468.Pavlakos, G.et al. Learning to estimate 3D human pose and shape from a single color image [Текст] / G. Pavlakos, L. Zhu, X. Zhou // Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. – 2018. – P. 459-468.Saito, S. Pifuhd: Multi-level pixel-aligned implicit function for high-resolution 3d human digitization [Текст] / S. Saito, T. Simon, J. Saragih, H. Joo // Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. – 2020. – P. 84-93.Saito, S. Pifuhd: Multi-level pixel-aligned implicit function for high-resolution 3d human digitization [Текст] / S. Saito, T. Simon, J. Saragih, H. Joo // Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. – 2020. – P. 84-93.Giving people the power to build community through research and innovation / FaceBook Research [Электронный ресурс]. – URL: https://research.fb.com/Giving people the power to build community through research and innovation / FaceBook Research [Электронный ресурс]. – URL: https://research.fb.com/Real-time 2D Multi-Person Pose Estimation on CPU: Lightweight OpenPose / GitHub [Электронный ресурс]. – URL: https://github.com/Daniil-Osokin/lightweight-human-pose-estimation.pytorchReal-time 2D Multi-Person Pose Estimation on CPU: Lightweight OpenPose / GitHub [Электронный ресурс]. – URL: https://github.com/Daniil-Osokin/lightweight-human-pose-estimation.pytorchpix2pixHD / GitHub [Электронный ресурс]. – URL: https://github.com/NVIDIA/pix2pixHDpix2pixHD / GitHub [Электронный ресурс]. – URL: https://github.com/NVIDIA/pix2pixHDBlender 2.92 Reference Manual / Blender Documentation [Электронный ресурс]. – URL: https://docs.blender.org/manual/en/latestBlender 2.92 Reference Manual / Blender Documentation [Электронный ресурс]. – URL: https://docs.blender.org/manual/en/latestMetaHuman Creator / Unreal Engine [Электронный ресурс]. – URL: https://www.unrealengine.com/en-US/metahuman-creatorMetaHuman Creator / Unreal Engine [Электронный ресурс]. – URL: https://www.unrealengine.com/en-US/metahuman-creatorThe world’s most open and advanced real-time 3D creation tool / Unreal Engine [Электронный ресурс]. – URL: https://www.unrealengine.com/en-US/The world’s most open and advanced real-time 3D creation tool / Unreal Engine [Электронный ресурс]. – URL: https://www.unrealengine.com/en-US/Manage 3D content and export with one click / Quixel Bridge [Электронный ресурс]. – URL: https://quixel.com/bridgeManage 3D content and export with one click / Quixel Bridge [Электронный ресурс]. – URL: https://quixel.com/bridgeBlind Face Restoration via Deep Multi-scale Component Dictionaries / GitHub [Электронный ресурс]. – URL: https://github.com/csxmli2016/DFDNetBlind Face Restoration via Deep Multi-scale Component Dictionaries / GitHub [Электронный ресурс]. – URL: https://github.com/csxmli2016/DFDNetBackground Removal API / remove.bg [Электронный ресурс]. – URL: https://www.remove.bg/apiBackground Removal API / remove.bg [Электронный ресурс]. – URL: https://www.remove.bg/apiAnimate 3D characters for games, film, and more. / Mixamo [Электронный ресурс]. – URL: https://www.mixamo.comAnimate 3D characters for games, film, and more. / Mixamo [Электронный ресурс]. – URL: https://www.mixamo.comТарасов А.С. Быстрое прототипирование трехмерного виртуального аватара и его движений на основе сканирования [Текст] / Выпускная квалификационная работа бакалавра Института информационных технологий и интеллектуальных систем // Казанский федеральный университет. – 2021. – 55 с.Тарасов А.С. Быстрое прототипирование трехмерного виртуального аватара и его движений на основе сканирования [Текст] / Выпускная квалификационная работа бакалавра Института информационных технологий и интеллектуальных систем // Казанский федеральный университет. – 2021. – 55 с.

The authors declare that there are no conflicts of interest present.