拟议的使用IoT和NLP的医疗保健监测系统旨在创建一个集成平台,其中包括智能乐队,移动应用程序和生成性问答系统,以促进对患者和医生的有效医疗保健监测和医疗援助。智能乐队收集生命体征,并将其存储在数据库中,以供患者和医疗保健提供者实时访问。以聊天机器人的形式实施的Biogpt-Pubmedqa-Prefix-tuning模型可以协助患者进行医学查询并提供初始处方。此外,聊天机器人是医生的助手,在患者咨询期间协助医生提出医疗问题。移动应用程序是用户,患者和医生的主要接口。它包括针对患者和医生的单独门户,提供满足其需求的独特功能
检查我们的演示,演示和文档
| 演示 | 推介会 | 文档 |
|---|---|---|
移动应用程序是用户,患者和医生的主要接口。它包括针对患者和医生的单独门户网站,提供了根据他们的需求量身定制的独特功能。
应用中使用的API和令牌
API_URL = "https://api-inference.huggingface.co/models/Amira2045/BioGPT-Finetuned"
headers = {"Authorization": "Bearer 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"}
MicroController(Arduino Nano)使用Wi-Fi模块ESP8266向我们的数据库发送生命体征,然后移动应用程序从数据库中获取数据。
用于微调的Biogpt-PubmedQA-Prefix-tuning模型是MioGPT,这是一种大型语言模型(LLM),用于医疗领域中,微型模型的目标是回答医疗问题。该模型在移动应用程序中被部署为聊天机器人,使用户可以询问与健康相关的查询并获得准确的响应。聊天机器人充当虚拟医疗助理,根据症状和病史提供初始处方并指导用户。
| 沼气大 | Miogpt-Pubmedqa-Prefix-tuning | |
|---|---|---|
| 损失 | 12.37 | 9.20 |
| 困惑 | 237016.3 | 1350.9 |
PubMedQA _封闭域问题回答给定的PubMed摘要:数据集包含有关生物医学研究的问题,这些问题涵盖了广泛的生物医学主题,包括疾病,治疗,基因,蛋白质等。 PubMedQA是MultiMEDQA数据集之一(医学问答的基准)。 PubMedQA由标记为1K专家,61.2K未标记的未标记和211.3K人工生成的QA实例,具有是/否/也许是多项选择的答案,并给出了带有PubMed摘要作为上下文的问题。

Microsoft宣布的Biogpt可用于分析生物医学研究,以回答生物医学问题,并且在帮助研究人员获得新的见解方面尤其重要。
BioGPT是一种生成语言模型,该模型接受了已经发表的数百万生物医学研究文章的培训。从本质上讲,这意味着BioGPT可以使用此信息执行其他任务,例如回答问题,提取相关数据并生成与生物医学相关的文本。
研究人员使用GPT-2 XL作为主要模型,并在现实世界中使用它之前对1500万个PubMed摘要进行了培训。 GPT-2 XL是一个变压器解码器,具有48层,1600个隐藏尺寸和25个注意力头,总共有1.5B参数。

微调设置:我们在Biogpt大型1.5B型号上执行了前缀调整技术的软提示。虚拟令牌长度设置为10 ,使我们可以专注于输入序列中的特定上下文。通过冻结模型的其余部分,我们将可训练参数的数量限制在150万。在训练过程中,我们使用了批量8的TPU VM VM V3-8 ,num_warmup_steps = 1000和gradient_accumulation_steps = 4和stoge_decay = 0.1 ,这使我们能够在24个步骤上执行训练过程,每个步骤涉及1024个下贵的处理。采用了ADAM优化器,利用1×10-5的峰值学习率在3个时期内优化了模型的性能。

FineTuned BioGPT模型托管在拥抱面上,我们使用以下API在移动应用程序上部署该模型。
API_URL = "https://api-inference.huggingface.co/models/Amira2045/BioGPT-Finetuned"
headers = {"Authorization": "Bearer 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"}

MicroController(Arduino Nano)使用Wi-Fi模块ESP8266向我们的数据库发送生命体征,然后移动应用程序从数据库中获取数据。
