Bitformer: An efficient Transformer with bitwise operation-based attention for Big Data Analytics at low-cost low-precision devices
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Duan, Gaoxiang, Zhang, Junkai, Zheng, Xiaoying, Zhu, Yongxin, Chang, Victor |
|---|---|
| Format: | Preprint |
| Publié: |
2023
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Online Finetuning Decision Transformers with Pure RL Gradients
par: Luo, Junkai, et autres
Publié: (2026)
par: Luo, Junkai, et autres
Publié: (2026)
Dynamic Mixture of Experts: An Auto-Tuning Approach for Efficient Transformer Models
par: Guo, Yongxin, et autres
Publié: (2024)
par: Guo, Yongxin, et autres
Publié: (2024)
A logical re-conception of neural networks: Hamiltonian bitwise part-whole architecture
par: Bowen, E, et autres
Publié: (2026)
par: Bowen, E, et autres
Publié: (2026)
FedCCRL: Federated Domain Generalization with Cross-Client Representation Learning
par: Wang, Xinpeng, et autres
Publié: (2024)
par: Wang, Xinpeng, et autres
Publié: (2024)
HICD: Hallucination-Inducing via Attention Dispersion for Contrastive Decoding to Mitigate Hallucinations in Large Language Models
par: Jiang, Xinyan, et autres
Publié: (2025)
par: Jiang, Xinyan, et autres
Publié: (2025)
G$^2$RPO-A: Guided Group Relative Policy Optimization with Adaptive Guidance
par: Guo, Yongxin, et autres
Publié: (2025)
par: Guo, Yongxin, et autres
Publié: (2025)
A Research on Business Process Optimisation Model Integrating AI and Big Data Analytics
par: Liao, Di, et autres
Publié: (2025)
par: Liao, Di, et autres
Publié: (2025)
COM-BOM: Bayesian Exemplar Search for Efficiently Exploring the Accuracy-Calibration Pareto Frontier
par: Luo, Gaoxiang, et autres
Publié: (2025)
par: Luo, Gaoxiang, et autres
Publié: (2025)
Perturbation-efficient Zeroth-order Optimization for Hardware-friendly On-device Training
par: Tan, Qitao, et autres
Publié: (2025)
par: Tan, Qitao, et autres
Publié: (2025)
TinySubNets: An efficient and low capacity continual learning strategy
par: Pietroń, Marcin, et autres
Publié: (2024)
par: Pietroń, Marcin, et autres
Publié: (2024)
CDAN: Convolutional dense attention-guided network for low-light image enhancement
par: Shakibania, Hossein, et autres
Publié: (2023)
par: Shakibania, Hossein, et autres
Publié: (2023)
Lightweight End-to-end Text-to-speech Synthesis for low resource on-device applications
par: Vecino, Biel Tura, et autres
Publié: (2025)
par: Vecino, Biel Tura, et autres
Publié: (2025)
PIDP-Attack: Combining Prompt Injection with Database Poisoning Attacks on Retrieval-Augmented Generation Systems
par: Wang, Haozhen, et autres
Publié: (2026)
par: Wang, Haozhen, et autres
Publié: (2026)
An ultra-low-power CGRA for accelerating Transformers at the edge
par: Prasad, Rohit
Publié: (2025)
par: Prasad, Rohit
Publié: (2025)
Intelligent Spark Agents: A Modular LangGraph Framework for Scalable, Visualized, and Enhanced Big Data Machine Learning Workflows
par: Wang, Jialin, et autres
Publié: (2024)
par: Wang, Jialin, et autres
Publié: (2024)
Tool wear monitoring using an online, automatic and low cost system based on local texture
par: García-Ordás, M. T., et autres
Publié: (2024)
par: García-Ordás, M. T., et autres
Publié: (2024)
LC-SVD-DLinear: A low-cost physics-based hybrid machine learning model for data forecasting using sparse measurements
par: Hetherington, Ashton, et autres
Publié: (2024)
par: Hetherington, Ashton, et autres
Publié: (2024)
HyFedRAG: A Federated Retrieval-Augmented Generation Framework for Heterogeneous and Privacy-Sensitive Data
par: Qian, Cheng, et autres
Publié: (2025)
par: Qian, Cheng, et autres
Publié: (2025)
Deep Learning and Machine Learning, Advancing Big Data Analytics and Management: Tensorflow Pretrained Models
par: Chen, Keyu, et autres
Publié: (2024)
par: Chen, Keyu, et autres
Publié: (2024)
Computationally and Memory-Efficient Robust Predictive Analytics Using Big Data
par: Menges, Daniel, et autres
Publié: (2024)
par: Menges, Daniel, et autres
Publié: (2024)
A Semantic Approach for Big Data Exploration in Industry 4.0
par: Berges, Idoia, et autres
Publié: (2024)
par: Berges, Idoia, et autres
Publié: (2024)
CHORD: Customizing Hybrid-precision On-device Model for Sequential Recommendation with Device-cloud Collaboration
par: Liu, Tianqi, et autres
Publié: (2025)
par: Liu, Tianqi, et autres
Publié: (2025)
STaR: Sensitive Trajectory Regulation for Unlearning in Large Reasoning Models
par: Zhou, Jingjing, et autres
Publié: (2026)
par: Zhou, Jingjing, et autres
Publié: (2026)
Implementation of Big Data Analytics for Diabetes Management: Needs Assessment in the Rwanda Healthcare System
par: Majyambere, Silas, et autres
Publié: (2026)
par: Majyambere, Silas, et autres
Publié: (2026)
Limited Perfect Monotonical Surrogates constructed using low-cost recursive linkage discovery with guaranteed output
par: Przewozniczek, M. W., et autres
Publié: (2026)
par: Przewozniczek, M. W., et autres
Publié: (2026)
Neuromorphic-based metaheuristics: A new generation of low power, low latency and small footprint optimization algorithms
par: Talbi, El-ghazali
Publié: (2025)
par: Talbi, El-ghazali
Publié: (2025)
Machine Learning for Everyone: Simplifying Healthcare Analytics with BigQuery ML
par: Salari, Mohammad Amir, et autres
Publié: (2025)
par: Salari, Mohammad Amir, et autres
Publié: (2025)
Gated Low-rank Adaptation for personalized Code-Switching Automatic Speech Recognition on the low-spec devices
par: Kim, Gwantae, et autres
Publié: (2024)
par: Kim, Gwantae, et autres
Publié: (2024)
TAIJI: MCP-based Multi-Modal Data Analytics on Data Lakes
par: Zhang, Chao, et autres
Publié: (2025)
par: Zhang, Chao, et autres
Publié: (2025)
EPBC-YOLOv8: An efficient and accurate improved YOLOv8 underwater detector based on an attention mechanism
par: Jiang, Xing, et autres
Publié: (2025)
par: Jiang, Xing, et autres
Publié: (2025)
Big Data Analytics: The New Frontier in Public Health Surveillance and Epidemic Prediction
par: www.rasitdinc.com
Publié: (2025)
par: www.rasitdinc.com
Publié: (2025)
GAC-Net_Geometric and attention-based Network for Depth Completion
par: Zhu, Kuang, et autres
Publié: (2025)
par: Zhu, Kuang, et autres
Publié: (2025)
LlamBERT: Large-scale low-cost data annotation in NLP
par: Csanády, Bálint, et autres
Publié: (2024)
par: Csanády, Bálint, et autres
Publié: (2024)
TransformerFAM: Feedback attention is working memory
par: Hwang, Dongseong, et autres
Publié: (2024)
par: Hwang, Dongseong, et autres
Publié: (2024)
AIDABench: AI Data Analytics Benchmark
par: Yang, Yibo, et autres
Publié: (2026)
par: Yang, Yibo, et autres
Publié: (2026)
MobiEdit: Resource-efficient Knowledge Editing for Personalized On-device LLMs
par: Lu, Zhenyan, et autres
Publié: (2025)
par: Lu, Zhenyan, et autres
Publié: (2025)
SQFT: Low-cost Model Adaptation in Low-precision Sparse Foundation Models
par: Muñoz, Juan Pablo, et autres
Publié: (2024)
par: Muñoz, Juan Pablo, et autres
Publié: (2024)
KARMA: A Multilevel Decomposition Hybrid Mamba Framework for Multivariate Long-Term Time Series Forecasting
par: Ye, Hang, et autres
Publié: (2025)
par: Ye, Hang, et autres
Publié: (2025)
Toward accessible comics for blind and low vision readers
par: Rigaud, Christophe, et autres
Publié: (2024)
par: Rigaud, Christophe, et autres
Publié: (2024)
Citation-Enhanced Generation for LLM-based Chatbots
par: Li, Weitao, et autres
Publié: (2024)
par: Li, Weitao, et autres
Publié: (2024)
Documents similaires
-
Online Finetuning Decision Transformers with Pure RL Gradients
par: Luo, Junkai, et autres
Publié: (2026) -
Dynamic Mixture of Experts: An Auto-Tuning Approach for Efficient Transformer Models
par: Guo, Yongxin, et autres
Publié: (2024) -
A logical re-conception of neural networks: Hamiltonian bitwise part-whole architecture
par: Bowen, E, et autres
Publié: (2026) -
FedCCRL: Federated Domain Generalization with Cross-Client Representation Learning
par: Wang, Xinpeng, et autres
Publié: (2024) -
HICD: Hallucination-Inducing via Attention Dispersion for Contrastive Decoding to Mitigate Hallucinations in Large Language Models
par: Jiang, Xinyan, et autres
Publié: (2025)