在上海新办二类医疗器械经营备案凭证时，需要准备以下资料：

1. 《第二类医疗器械经营备案申请表》和《第二类医疗器械经营备案表》电子版本。
2. 营业执照和法人登记证书原件及复印件。
3. 公司质量管理体系的认证证书。
4. 经营产品相关的技术培训、操作规程等文件。
5. 经营场所、仓库的产权证明或者租赁协议（如果是委托配送，还需要提供委托配送合同）。
6. 如果涉及体外诊断试剂的，还需要提供销售协议等其他相关证明材料。
7. 如果涉及医疗器械注册证的，需要提供相应证明。

请注意，具体要求可能会因地方政策或者其他因素而有所变化，建议办理前到当地有关部门进行详细咨询。