【论文笔记-6】城市大模型综述

Towards Urban General Intelligence: A Review and Outlook of Urban Foundation Models. Weijia Zhang, Jindong Han, Zhao Xu, Hang Ni, Hao Liu and Hui Xiong. arXiv 2024.

动机

随着ChatGPT等大模型的兴起，关于城市大模型的讨论和研究兴趣也在不断增加，然而这一迅速发展起来的领域，也面临许多挑战，比如缺乏对城市大模型的清晰定义、系统的研究梳理、通用的解决方案。

任务

本文提出了城市大模型的概念，讨论了构建城市大模型面临的挑战、将城市大模型相关的研究工作按照数据（模态、类型）进行分类，并给出了城市大模型框架图，最后从应用的角度，探讨了大模型对不同应用场景的可能影响。相关的论文和开源资料发布在了GitHub库 https://github.com/usail-hkust/Awesome-Urban-Foundation-Models

方法

这个框架图包含三个部分，1. 多源多粒度多模态城市数据，如城市文本语料、街景图像、空间轨迹、时间序列数据、城市知识图谱等；2. 城市基础模型； 3. 下游应用场景，涵盖交通、城市规划、能源管理、环境监测及公共安全等领域。

将城市大模型按照数据的模态、类型进行分类，包括基于语言的、视觉的、轨迹的、时间序列的、多模态的以及其他类型的城市大模型。

从城市数据的集成、融合到多模态城市大模型构建，再到不同的城市应用场景。提升城市大模型的时空推理以及隐私保护能力。

评价

1. 文章对城市大模型进行了全面且比较深入的调研和分析；
2. 按照城市大数据的不同模态对相关工作进行了分类；
3. 给出了当前的城市大模型研究存在的一些挑战以及未来研究方向。

展望

1. 如何将大模型的能力用于解决时空数据挖掘、城市计算领域存在的一些有挑战且尚未解决好的问题？
2. 探索城市大模型的隐私保护问题。
3. 城市大模型的发展给时空数据挖掘领域带来了哪些新的有意思的研究问题？

更多

1. 【论文笔记-1】注意力人流量机器
   https://xiepeng21.cn/posts/a7c2a378/
2. 【论文笔记-2】深度学习
   https://xiepeng21.cn/posts/c0d0024f/
3. 【论文笔记-3】用于交通预测的多范围注意力双组分图卷积网络
   https://xiepeng21.cn/posts/e8cb7573/
4. 【论文笔记-4】Attention Is All You Need
   https://xiepeng21.cn/posts/d3e954aa/
5. 【论文笔记-5】iTransformer
   https://xiepeng21.cn/posts/4b43950f/
6. 时空数据挖掘论文库
   https://github.com/xiepeng21/research_spatio-temporal-data-mining
7. AI论文速读 |【综述】城市基础模型回顾与展望——迈向城市通用智能
   https://mp.weixin.qq.com/s/hoC9g8hnOpZcSnmvv5Ac8A