数学系考研的科目主要包括以下几门：

思想政治理论 ：这是所有考研学生必考的公共课之一，涉及国家政治、政治制度和政治理论等内容。

英语 ：通常为考研英语，也是必考公共课之一。内容包括阅读理解、写作和翻译等。

数学分析 ：这是数学专业研究生的重要专业课之一，涉及微积分、实变函数、复变函数等内容，考察考生对数学理论和方法的掌握程度。

高等代数 ：同样是数学专业研究生的重要专业课，涉及线性代数、群论、拓扑学等内容。

概率论与数理统计 ：这是数学专业考研的另一个重要科目，研究如何通过收集、分析和解释数据来做出决策。

常微分方程 ：有些学校会在专业课中考察常微分方程的内容。

抽象代数 ：涉及基本概念和基本结构，如群、环、域等，以及它们之间的关系。

数学建模 ：有些学校会在专业课中考察数学建模的能力。

综上所述，数学系考研的科目包括思想政治理论、英语、数学分析、高等代数、概率论与数理统计、常微分方程、抽象代数和数学建模等。具体考试科目可能会因报考院校和专业方向的不同而有所差异，建议考生关注目标院校的招生简章和专业目录，以获取最准确的信息。