EarthPT: a time series foundation model for Earth Observation
一个Earth Observation (EO)预训练的Transformer。EarthPT是一个7亿参数解码Transformer基础模型，以自回归自监督方式进行训练，并专门针对EO用例进行开发。我们证明了EarthPT是一个有效的预测器，可以准确地预测未来400- 2300 nm范围内的像素级表面反射率。
以多光谱时间序列的形式在Earth Observation (EO)数据的14 B令牌上训练Chinchilla最优700 M参数解码Transformer模型。
以通常的自回归方式训练EarthPT，通过重复预测给定时间序列中的下一个观测值。
模型是为了预测一些遥感图像指数之类的：
