About Me

Shion Takeno is an assistant professor at Graduate Department of Mechanical Systems Engineering of Nagoya university. He has received Ph.D. (Engineering) from the Department of Computer Science at Nagoya Institute of Technology. He is working on a machine learning method called Bayesian optimization, which aims for an efficient black-box optimization, and its application to materials science.

keywords: Bayesian Optimization, Materials Informatics, Regret Analysis

e-mail: takeno.shion.m6[at]f.mail.nagoya-u.ac.jp

links: researchmap / Google scholar

Affiliation
  • Assistant professor, Graduate Department of Mechanical Systems Engineering, Nagoya University
  • Researcher, ACT-X, Japan Science and Technology Agency (JST)

Biography
2018/4 ~ 2020/3 Master's student, Takeuchi & Karasuyama Lab, Department of Computer Science, Nagoya Institute of Technology
2020/4 ~ 2023/3 Ph.D student, Takeuchi & Karasuyama Lab, Department of Computer Science, Nagoya Institute of Technology
2020/4 ~ 2021/3 Junior Research Associate, Data-Driven Biomedical Science Team, Center for Advanced Intelligence Project, RIKEN
2021/4 ~ 2023/3 Research Fellowship for Young Scientists, Japan Society for the Promotion of Science (DC2)
2022/6 ~ 2023/3 Collaborative Researcher, CyberAgent, Inc. AI Lab
2023/4 ~ 2024/3 Postdoctoral researcher, Data-Driven Biomedical Science Team, Center for Advanced Intelligence Project, RIKEN
2023/4 ~ 2024/3 Visiting researcher, Department of Engineering, Nagoya University
2022/11 ~ present Mathematical Consultant, Farmnote, Inc.
2023/10 ~ present JST ACT-X Researcher
2024/4 ~ present Assistant professor, Graduate Department of Mechanical Systems Engineering, Department of Engineering, Nagoya University

Publication

Refereed Journal Papers

  1. Bayesian Optimization for Cascade-type Multi-stage Processes
    Neural Computation, 34 (12): 2408–2431, 2022.
    Shunya Kusakawa, Shion Takeno, Yu Inatsu, Kentaro Kutsukake, Shogo Iwazaki, Takashi Nakano, Toru Ujihara, Masayuki Karasuyama, Ichiro Takeuchi
    IF in 2021 = 3.278 Paper Preprint Code (Our figure is selected as a cover)
  2. A Generalized Framework of Multi-fidelity Max-value Entropy Search through Joint Entropy
    Neural Computation, 34 (10): 2145–2203, 2022.
    Shion Takeno, Hitoshi Fukuoka, Yuhki Tsukada, Toshiyuki Koyama, Motoki Shiga, Ichiro Takeuchi, and Masayuki Karasuyama
    IF in 2021 = 3.278 Paper Code
  3. Cost-effective search for lower-error region in material parameter space using multifidelity Gaussian process modeling
    Physical Review Materials, vol.4, 083802, 2020.
    Shion Takeno, Yuhki Tsukada, Hitoshi Fukuoka, Toshiyuki Koyama, Motoki Shiga, and Masayuki Karasuyama
    IF in 2019 = 3.337 Paper Preprint
  4. Estimation of material parameters based on precipitate shape: efficient identification of low-error region with Gaussian process modeling
    Scientific Reports, vol.9, 15798, 2019.
    Yuhki Tsukada, Shion Takeno, Masayuki Karasuyama, Hitoshi Fukuoka, Motoki Shiga, and Toshiyuki Koyama
    IF in 2018 = 4.525 Paper

Refereed International Conference Papers

  1. Risk Seeking Bayesian Optimization under Uncertainty for Obtaining Extremum
    Proceedings of the 27th International Conference on Artificial Intelligence and Statistics (AIstats 2024), vol. XX, pp. XX, 2024. (To appear)
    Shogo Iwazaki, Tomohiko Tanabe, Mitsuru Irie, Shion Takeno, Yu Inatsu
    (Acceptance rate 27.6% ≈ 546 / 1980)
  2. Bounding Box-based Multi-objective Bayesian Optimization of Risk Measures under Input Uncertainty
    Proceedings of the 27th International Conference on Artificial Intelligence and Statistics (AIstats 2024), vol. XX, pp. XX, 2024. (To appear)
    Yu Inatsu, Shion Takeno, Hiroyuki Hanada, Kazuki Iwata, Ichiro Takeuchi
    (Acceptance rate 27.6% ≈ 546 / 1980) Preprint
  3. Multi-objective Bayesian Optimization with Active Preference Learning
    Proceedings of the 38th AAAI Conference on Artificial Intelligence (AAAI 2024), 38(13), pp. 14490-14498, 2024.
    Ryota Ozaki, Kazuki Ishikawa, Youhei Kanzaki, Shinya Suzuki, Shion Takeno, Ichiro Takeuchi, Masayuki Karasuyama
    (Acceptance rate 23.8% ≈ 2342 / 9862) Paper Preprint
  4. Failure-Aware Gaussian Process Optimization with Regret Bounds
    Proceedings of Advances in Neural Information Processing Systems 36 (NeurIPS 2023), pp. 24388-24400, 2023.
    Shogo Iwazaki, Shion Takeno, Tomohiko Tanabe, Mitsuru Irie
    (Acceptance rate 26.1% ≈ 3218 / 12343) Paper
  5. Randomized Gaussian Process Upper Confidence Bound with Tighter Bayesian Regret Bounds
    Proceedings of The 40th International Conference on Machine Learning (ICML 2023), vol. 202, pp. 33490-33515, PMLR, 2023.
    Shion Takeno, Yu Inatsu, Masayuki Karasuyama
    (Acceptance rate 27.9% ≈ 1827 / 6538) Paper Preprint
  6. Towards Practical Preferential Bayesian Optimization with Skew Gaussian Processes
    Proceedings of The 40th International Conference on Machine Learning (ICML 2023), vol. 202, pp. 33516-33533, PMLR, 2023.
    Shion Takeno, Masahiro Nomura, Masayuki Karasuyama
    (Acceptance rate 27.9% ≈ 1827 / 6538) Paper Preprint Code
  7. Sequential- and Parallel- Constrained Max-value Entropy Search via Information Lower Bound
    Proceedings of The 39th International Conference on Machine Learning (ICML 2022), vol. 162, pp. 20960-20986, PMLR, 2022.
    Shion Takeno, Tomoyuki Tamura, Kazuki Shitara, and Masayuki Karasuyama
    (Acceptance rate 21.9% ≈ (1117 + 118) / 5630) Paper Preprint Code
  8. Bayesian Optimization for Distributionally Robust Chance-constrained Problem
    Proceedings of The 39th International Conference on Machine Learning (ICML 2022), vol. 162, pp. 9602-9621, PMLR, 2022.
    Yu Inatsu, Shion Takeno, Masayuki Karasuyama, Ichiro Takeuchi
    (Acceptance rate 21.9% ≈ (1117 + 118) / 5630) Paper Preprint
  9. Multi-fidelity Bayesian Optimization with Max-value Entropy Search and its Parallelization
    Proceedings of The 37th International Conference on Machine Learning (ICML 2020), vol. 119, pp. 9334–9345, PMLR, 2020.
    Shion Takeno, Hitoshi Fukuoka, Yuhki Tsukada, Toshiyuki Koyama, Motoki Shiga, Ichiro Takeuchi, and Masayuki Karasuyama
    (Acceptance rate 22% ≈ 1088 / 4990) Paper Preprint Code
  10. Multi-objective Bayesian Optimization using Pareto-frontier Entropy
    Proceedings of The 37th International Conference on Machine Learning (ICML 2020), vol. 119, pp. 9279–9288, PMLR, 2020.
    Shinya Suzuki, Shion Takeno, Tomoyuki Tamura, Kazuki Shitara, and Masayuki Karasuyama
    (Acceptance rate 22% ≈ 1088 / 4990) Paper Preprint Code

Refereed International Workshop Papers

  1. Preferential Bayesian Optimization with Hallucination Believer
    NeurIPS Workshop on Gaussian Processes, Spatiotemporal Modeling, and Decision-making Systems, 2022.
    Shion Takeno, Masahiro Nomura, Masayuki Karasuyama Paper

Online preprint

  1. Posterior Sampling-Based Bayesian Optimization with Tighter Bayesian Regret Bounds
    arXiv2311.03760, 2023.
    Shion Takeno, Yu Inatsu, Masayuki Karasuyama, Ichiro Takeuchi Preprint

Domestic Journals

  1. 最適値の情報量に基づいたマルチフィデリティベイズ最適化
    第37回人工知能学会全国大会論文集, pp.4Q3OS1402-4Q3OS1402, 2023年
    竹野思温, 烏山昌幸.
  2. 複数目的のレベル集合推定のための適応的意思決定アルゴリズムの提案
    第37回人工知能学会全国大会論文集, pp.4Q3OS1405-4Q3OS1405, 2023年
    岩崎省吾, 竹野思温, 稲津佑, 松井孝太.
  3. 選好考慮型多目的ベイズ最適化によるユーザの好みを反映したハイパーパラメータ最適化
    情報論的学習理論と機械学習研究会(IBISML), 信学技報, vol. 122, no. 325, IBISML2022-60, pp. 120-127, 2022年12月
    尾崎令拓, 石川和樹, 神崎陽平, 竹野思温, 竹内一郎, 烏山昌幸
  4. 乱択GP-UCBアルゴリズムのリグレット解析
    情報論的学習理論と機械学習研究会(IBISML), 信学技報, vol. 122, no. 325, IBISML2022-49, pp. 38-45, 2022年12月
    竹野思温, 稲津佑, 烏山昌幸
  5. 情報量の下界に基づく逐次的及び並列的な制約付きベイズ最適化
    情報論的学習理論と機械学習研究会(IBISML), 信学技報, vol. 121, no. 321, IBISML2021-19, pp. 9-16, 2022年1月
    竹野思温, 田村友幸, 設楽一希, 烏山昌幸
  6. 情報量に基づく複数タスクの同時ベイズ最適化
    情報論的学習理論と機械学習研究会(IBISML), 信学技報, vol. 121, no. 321, IBISML2021-28, pp. 75-80, 2022年1月
    山田倫太郎, 竹野思温, 烏山昌幸
  7. 分布的ロバストな機会制約付き最適化問題に対する能動学習
    情報論的学習理論と機械学習研究会(IBISML), 信学技報, vol.121, no.80, IBISML2021-7, pp.47-54, 2021年6月
    稲津佑, 竹野思温, 烏山昌幸, 竹内一郎
  8. マルチフィデリティな評価関数を活用した能動的レベルセット推定
    情報論的学習理論と機械学習研究会(IBISML), 信学技報, vol.118, no.81, IBISML2018, pp.1-8, 2018年6月
    竹野思温, 竹内一郎, 烏山昌幸

Presentation

International Conference

  1. Multi-objective Bayesian Optimization with Active Preference Learning
    The 38th AAAI Conference on Artificial Intelligence (AAAI 2024), Vancouver, February, 2024.
    ○Ryota Ozaki, Kazuki Ishikawa, Youhei Kanzaki, Shinya Suzuki, Shion Takeno, Ichiro Takeuchi, Masayuki Karasuyama
  2. Failure-Aware Gaussian Process Optimization with Regret Bounds
    Advances in Neural Information Processing Systems 36 (NeurIPS 2023), New Orleans, December, 2023.
    ○Shogo Iwazaki, Shion Takeno, Tomohiko Tanabe, Mitsuru Irie
  3. Towards Practical Preferential Bayesian Optimization with Skew Gaussian Processes
    The 40th International Conference on Machine Learning (ICML 2023), Honolulu, July, 2023.
    ○Shion Takeno, Masahiro Nomura, Masayuki Karasuyama
  4. Randomized Gaussian Process Upper Confidence Bound with Tighter Bayesian Regret Bounds
    The 40th International Conference on Machine Learning (ICML 2023), Honolulu, July, 2023.
    ○Shion Takeno, Yu Inatsu, Masayuki Karasuyama
  5. Preferential Bayesian Optimization with Hallucination Believer
    NeurIPS Workshop on Gaussian Processes, Spatiotemporal Modeling, and Decision-making Systems, 2022.
    Shion Takeno, ○Masahiro Nomura, Masayuki Karasuyama
  6. Sequential- and Parallel- Constrained Max-value Entropy Search via Information Lower Bound
    The 39th International Conference on Machine Learning (ICML 2022), Baltimore, July, 2022.
    ○Shion Takeno, Tomoyuki Tamura, Kazuki Shitara, and Masayuki Karasuyama
  7. Bayesian Optimization for Distributionally Robust Chance-constrained Problem
    The 39th International Conference on Machine Learning (ICML 2022), Baltimore, July, 2022.
    ○Yu Inatsu, Shion Takeno, Masayuki Karasuyama, Ichiro Takeuchi
  8. Multi-fidelity Bayesian Optimization with Max-value Entropy Search and its Parallelization
    The 37th International Conference on Machine Learning (ICML 2020), Online, July 2020.
    ○Shion Takeno, Hitoshi Fukuoka, Yuhki Tsukada, Toshiyuki Koyama, Motoki Shiga, Ichiro Takeuchi, and Masayuki Karasuyama
  9. Multi-objective Bayesian Optimization using Pareto-frontier Entropy
    The 37th International Conference on Machine Learning (ICML 2020), Online, July 2020.
    ○Shinya Suzuki, Shion Takeno, Tomoyuki Tamura, Kazuki Shitara, and Masayuki Karasuyama

Domestic Workshop

  1. 人間参加型選好ベイズ最適化の半導体製造プロセス開発への応用
    第71回応用物理学会春季学術講演会, 2024年3月.
    松田凌芽, 霜田大貴, 吉田拓未, 竹野思温, ○ 沓掛健太朗, 宇治原徹, 竹内 一郎
  2. 事後分布からのサンプルに基づくベイズ最適化
    情報論的学習理論と機械学習研究会(IBISML2023), 福岡, 2023年10月.
    ○竹野思温, 稲津佑, 烏山昌幸, 竹内一郎
  3. 入力不確実性が存在する下での信用領域を用いたリスク尺度に対する多目的ベイズ最適化手法
    情報論的学習理論と機械学習研究会(IBISML2023), 福岡, 2023年10月.
    ○稲津佑, 花田博幸, 岩田和樹, 竹野思温, 竹内一郎
  4. 入力データ分布に対する不確実性の下での分布ロバストな能動学習
    情報論的学習理論と機械学習研究会(IBISML2023), 福岡, 2023年10月.
    ○大藏芳斗, 稲津佑, 竹野思温, 花田博幸, 青山竜也, 田中智成, 赤羽智志, 小嶋信矢, 李翰柱, 竹内一郎
  5. ガウス過程に対する乱択UCBアルゴリズム
    2022年度統計関連学会連合大会, 京都, 2023年9月.
    ○竹野思温, 稲津佑, 烏山昌幸
  6. 最適値の情報量に基づいたマルチフィデリティベイズ最適化
    第37回人工知能学会全国大会, 熊本, 2023年6月.
    ○竹野思温, 烏山昌幸
  7. 複数目的のレベル集合推定のための適応的意思決定アルゴリズムの提案
    第37回人工知能学会全国大会, 熊本, 2023年6月.
    ○ 岩崎 省吾, 竹野思温, 稲津佑, 松井孝太
  8. 選好考慮型多目的ベイズ最適化によるユーザの好みを反映したハイパーパラメータ最適化
    情報論的学習理論と機械学習研究会(IBISML2022), 京都, 2022年12月.
    ○尾崎令拓, 石川和樹, 神崎陽平, 竹野思温, 竹内一郎, 烏山昌幸
  9. 乱択GP-UCBアルゴリズムのリグレット解析
    情報論的学習理論と機械学習研究会(IBISML2022), 京都, 2022年12月.
    ○竹野思温, 稲津佑, 烏山昌幸
  10. 専門家の知識を入れたものづくりのためのデータ同化（ii）-SiC溶液成長シミュレーションへの適用-
    第83回応用物理学会秋季学術講演会, 2022年9月.
    ○ 太田壮音, 沓掛健太朗, 竹野思温, 烏山昌幸, 竹内一郎, 原田俊太, 田川美穂, 宇治原徹
  11. 専門家の知識を入れたものづくりのためのデータ同化（i）-手法の提案-
    第83回応用物理学会秋季学術講演会, 2022年9月.
    ○ 沓掛健太朗, 竹野思温, 太田壮音, 烏山昌幸, 竹内一郎, 宇治原徹
  12. 情報量の下界に基づく逐次的及び並列的な制約付きベイズ最適化
    情報論的学習理論と機械学習研究会(IBISML2022), Online, 2022年1月.
    ○竹野思温, 田村友幸, 設楽一希, 烏山昌幸
  13. 情報量に基づく複数タスクの同時ベイズ最適化
    情報論的学習理論と機械学習研究会(IBISML2022), Online, 2022年1月
    ○山田倫太郎, 竹野思温, 烏山昌幸
  14. 情報量の下界に基づく制約付きベイズ最適化
    第24回情報論的学習理論ワークショップ (IBIS2021), Online, 2021年11月.
    ○竹野思温, 田村友幸, 設楽一希, 烏山昌幸
  15. カスケードタイプの多ステージプロセスに対するベイズ最適化
    第24回情報論的学習理論ワークショップ (IBIS2021), Online, 2021年11月.
    ○草川隼也, 竹野思温, 稲津佑, 沓掛健太朗, 岩崎省吾, 中野高志, 烏山昌幸, 宇治原徹, 竹内一郎
  16. 分布的ロバストな機会制約付き最適化問題に対する能動学習
    情報論的学習理論と機械学習研究会(IBISML2021), Online, 2021年6月.
    ○稲津佑, 竹野思温, 烏山昌幸, 竹内一郎
  17. 多段階プロセスに対するベイズ最適化の中断可能設定への拡張
    第18回情報学ワークショップ (WINF2020), 名古屋工業大学, 2020年11月.
    ○草川隼也, 竹野思温, 沓掛健太朗, 竹内一郎
  18. Max-value Entropy Searchに基づくMulti-fidelityベイズ最適化
    第22回情報論的学習理論ワークショップ (IBIS2019), ウインクあいち, 2019年11月.
    ○竹野思温, 福岡準史, 塚田祐貴, 小山敏幸, 志賀元紀, 竹内一郎, 烏山昌幸
  19. Pareto-frontier Entropyに基づく多目的ベイズ最適化
    第22回情報論的学習理論ワークショップ (IBIS2019), ウインクあいち, 2019年11月.
    ○鈴木進也, 竹野思温, 田村友幸, 設楽一希, 烏山昌幸
  20. マルチフィデリティな評価関数を活用した能動的レベルセット推定
    情報論的学習理論と機械学習研究会(IBISML2018), 沖縄科学技術大学院大学, 2018年6月.
    ○竹野思温, 竹内一郎, 烏山昌幸

Invited talk

  1. 出力空間の情報量に基づくベイズ最適化の発展
    理研AIP データ駆動型生物医科学チーム オンラインセミナー, Online, 2022年9月15日.
    竹野思温
  2. 出力空間の情報量を用いたベイズ最適化とその発展
    第5回 統計・機械学習若手シンポジウム (StatsML Symposium'20), Online, 2020年12月4日.
    竹野思温

Others

Research Grants

  1. FY2024 Grant-in-Aid for Early-Career Scientists
    ``Developing regret guaranteed randomized Bayesian optimization methods for practical optimization problems and applications to materials science''
  2. FY2023 Japan Science and Technology Agency (ACT-X: [NextAI-Math-Info] Innovations in Mathematical and Information Sciences to Build the Next-Generation AI)
    ``Developing practical human-in-the-loop preferential optimization method and its theoretical guarantee''
  3. FY2023 Grant-in-Aid for Research Activity Start-up
    ``Developing randomized Bayesian optimization methods and its theoretical analysis and applications to materials science''
  4. FY2021 Research Fellowship for Young Scientists, Japan Society for the Promotion of Science (DC2)
    ``Multi-fidelity Bayesian optimization based on output-entropy and applications to materials science''

Academic Activities

  1. Reviewer at The 26th International Conference on Artificial Intelligence and Statistics (AIstats 2024)
  2. Reviewer at Advances in Neural Information Processing Systems 36 (NeurIPS 2023, top reviewer)

Awards

  1. FY2023 IBIS Workshop Excellent Presentation Award Finalist
  2. FY2022 IEICE TC-IBISML Research Award Finalist
  3. FY2022 Nagoya Institute of Technology Foundation Student Research Encouragement President's Award（Academic Activities)
  4. FY2021 IEICE TC-IBISML Research Award Finalist (co-author)
  5. FY2020 Nagoya Institute of Technology Foundation Student Research Encouragement Vice President's Award（Academic Activities)

Press Release

  1. 【MI-6】国際会議「NeurIPS 2023」で論文が採択されました。
  2. 【CyberAgent】AI Lab、機械学習分野のトップカンファレンス「ICML2023」にて共著論文採択
  3. 【CyberAgent】 AI Lab Creative Researchチームの論文がNeurIPS2022のワークショップ「Gaussian Processes, Spatiotemporal Modeling, and Decision-making Systems」に採択

Review, Commentary, etc.

  1. マテリアル・機械学習・ロボット (現代化学増刊48)
    第Ⅲ部 9: 精度・正確度と観測コストを考慮したマルチフィデリティ最適化
    東京化学同人, 2024年
    竹野思温, 烏山昌幸, 竹内一郎.
  2. ベイズ最適化の基礎と材料探索への応用
    Material Stage vol.23, no.3 pp.54-58, 2023年
    竹内一郎, 竹野思温, Vo Nguyen Le Duy, 花田博幸, 橋本典明, 田地宏一.
  3. マテリアルズインフォマティクスのためのデータ作成とその解析・応用事例
    第4章 第5節 精度と観測コストのトレードオフを考慮したベイズ的探索法: 材料パラメータ推定での適用事例
    技術情報協会 2021年
    烏山昌幸, 竹野思温, 塚田祐貴, 小山敏幸, 志賀元紀.

Patent

  1. ``推定装置、推定方法、およびプログラム'', 特願2022-134361（2022/08/25出願）
    沓掛健太朗, 竹野思温, 竹内一郎, 宇治原徹, 太田壮音, 烏山昌幸,