Inorganic Materials Synthesis Planning with Literature-Trained Neural Networks

12/31/2018 ∙ by Edward Kim, et al. ∙ MIT 0

Leveraging new data sources is a key step in accelerating the pace of materials design and discovery. To complement the strides in synthesis planning driven by historical, experimental, and computed data, we present an automated method for connecting scientific literature to synthesis insights. Starting from natural language text, we apply word embeddings from language models, which are fed into a named entity recognition model, upon which a conditional variational autoencoder is trained to generate syntheses for arbitrary materials. We show the potential of this technique by predicting precursors for two perovskite materials, using only training data published over a decade prior to their first reported syntheses. We demonstrate that the model learns representations of materials corresponding to synthesis-related properties, and that the model's behavior complements existing thermodynamic knowledge. Finally, we apply the model to perform synthesizability screening for proposed novel perovskite compounds.



There are no comments yet.


page 1

page 3

page 4

This week in AI

Get the week's most popular data science and artificial intelligence research sent straight to your inbox every Saturday.


  • Xie and Grossman (2018) T. Xie and J. C. Grossman, Physical Review Letters 120, 145301 (2018).
  • Huan et al. (2015) T. D. Huan, A. Mannodi-Kanakkithodi,  and R. Ramprasad, Physical Review B 92, 014106 (2015).
  • Isayev et al. (2015) O. Isayev, D. Fourches, E. N. Muratov, C. Oses, K. Rasch, A. Tropsha,  and S. Curtarolo, Chemistry of Materials 27, 735 (2015).
  • Meredig et al. (2014) B. Meredig, A. Agrawal, S. Kirklin, J. E. Saal, J. Doak, A. Thompson, K. Zhang, A. Choudhary,  and C. Wolverton, Physical Review B 89, 094104 (2014).
  • Aykol et al. (2018) M. Aykol, V. I. Hegde, S. Suram, L. Hung, P. Herring, C. Wolverton,  and J. S. Hummelshøj, arXiv preprint arXiv:1806.05772  (2018).
  • Kim et al. (2018) K. Kim, L. Ward, J. He, A. Krishna, A. Agrawal,  and C. Wolverton, Physical Review Materials 2, 123801 (2018).
  • Segler et al. (2018) M. H. Segler, M. Preuss,  and M. P. Waller, Nature 555, 604 (2018).
  • Gao et al. (2018) H. Gao, T. J. Struble, C. W. Coley, Y. Wang, W. H. Green,  and K. F. Jensen, ACS Central Science  (2018).
  • Coley et al. (2017) C. W. Coley, R. Barzilay, T. S. Jaakkola, W. H. Green,  and K. F. Jensen, ACS Central Science 3, 434 (2017).
  • Saal et al. (2013) J. E. Saal, S. Kirklin, M. Aykol, B. Meredig,  and C. Wolverton, Jom 65, 1501 (2013).
  • Jain et al. (2013) A. Jain, S. P. Ong, G. Hautier, W. Chen, W. D. Richards, S. Dacek, S. Cholia, D. Gunter, D. Skinner, G. Ceder, et al., APL Materials 1, 011002 (2013).
  • Goodman (2009) J. Goodman, “Computer software review: Reaxys,”  (2009).
  • Kim et al. (2017a) E. Kim, K. Huang, A. Saunders, A. McCallum, G. Ceder,  and E. Olivetti, Chemistry of Materials 29, 9436 (2017a).
  • Raccuglia et al. (2016) P. Raccuglia, K. C. Elbert, P. D. Adler, C. Falk, M. B. Wenny, A. Mollo, M. Zeller, S. A. Friedler, J. Schrier,  and A. J. Norquist, Nature 533, 73 (2016).
  • Ghadbeigi et al. (2015) L. Ghadbeigi, J. K. Harada, B. R. Lettiere,  and T. D. Sparks, Energy & Environmental Science 8, 1640 (2015).
  • Young et al. (2018) S. R. Young, A. Maksov, M. Ziatdinov, Y. Cao, M. Burch, J. Balachandran, L. Li, S. Somnath, R. M. Patton, S. V. Kalinin, et al., Journal of Applied Physics 123, 115303 (2018).
  • Kingma and Welling (2014) D. P. Kingma and M. Welling, in International Conference on Learning Representations (2014).
  • Sohn et al. (2015) K. Sohn, H. Lee,  and X. Yan, in Advances in Neural Information Processing Systems (2015) pp. 3483–3491.
  • Gómez-Bombarelli et al. (2018) R. Gómez-Bombarelli, J. N. Wei, D. Duvenaud, J. M. Hernández-Lobato, B. Sánchez-Lengeling, D. Sheberla, J. Aguilera-Iparraguirre, T. D. Hirzel, R. P. Adams,  and A. Aspuru-Guzik, ACS Central Science 4, 268 (2018).
  • (20)
  • Peters et al. (2018) M. E. Peters, M. Neumann, M. Iyyer, M. Gardner, C. Clark, K. Lee,  and L. Zettlemoyer, in Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long Papers) (2018).
  • Bojanowski et al. (2017) P. Bojanowski, E. Grave, A. Joulin,  and T. Mikolov, Transactions of the Association for Computational Linguistics 5, 135 (2017).
  • Kim et al. (2017b) E. Kim, K. Huang, A. Tomala, S. Matthews, E. Strubell, A. Saunders, A. McCallum,  and E. Olivetti, Scientific Data 4, 170127 (2017b).
  • Chung et al. (2014) J. Chung, C. Gulcehre, K. Cho,  and Y. Bengio, in 

    NIPS 2014 Workshop on Deep Learning, December 2014

  • Kamalakkannan et al. (2016) J. Kamalakkannan, V. Chandraboss,  and S. Senthilvelan, World Scientific News 58, 97 (2016).
  • Takatsu et al. (2017) H. Takatsu, O. Hernandez, W. Yoshimune, C. Prestipino, T. Yamamoto, C. Tassel, Y. Kobayashi, D. Batuk, Y. Shibata, A. M. Abakumov, et al., Physical Review B 95, 155105 (2017).
  • Sun et al. (2017) W. Sun, A. Holder, B. Orvañanos, E. Arca, A. Zakutayev, S. Lany,  and G. Ceder, Chemistry of Materials 29, 6936 (2017).
  • Hegde et al. (2018) V. I. Hegde, M. Aykol, S. Kirklin,  and C. Wolverton, arXiv preprint arXiv:1808.10869  (2018).
  • Balachandran et al. (2018) P. V. Balachandran, A. A. Emery, J. E. Gubernatis, T. Lookman, C. Wolverton,  and A. Zunger, Physical Review Materials 2, 043802 (2018).
  • Yang and Ceder (2013) L. Yang and G. Ceder, Physical Review B 88, 224107 (2013).
  • Kusner et al. (2017) M. J. Kusner, B. Paige,  and J. M. Hernández-Lobato, in International Conference on Machine Learning (2017) pp. 1945–1954.
  • Chollet et al. (2015) F. Chollet et al.

    , “Keras,”  (2015).

  • Abadi et al. (2016) M. Abadi, P. Barham, J. Chen, Z. Chen, A. Davis, J. Dean, M. Devin, S. Ghemawat, G. Irving, M. Isard, et al., in OSDI, Vol. 16 (2016) pp. 265–283.
  • Ong et al. (2013) S. P. Ong, W. D. Richards, A. Jain, G. Hautier, M. Kocher, S. Cholia, D. Gunter, V. L. Chevrier, K. A. Persson,  and G. Ceder, Computational Materials Science 68, 314 (2013).
  • Swain and Cole (2016) M. C. Swain and J. M. Cole, Journal of chemical information and modeling 56, 1894 (2016).
  • Katyayan and Agrawal (2017) S. Katyayan and S. Agrawal, Journal of Materials Science: Materials in Electronics 28, 18442 (2017).
  • Larsson et al. (2008) A.-K. Larsson, R. Withers, J. Perez-Mato, J. F. Gerald, P. J. Saines, B. J. Kennedy,  and Y. Liu, Journal of Solid State Chemistry 181, 1816 (2008).